Людвиг — старший сын Карла Гессенского, брата Людвига III, герцога Гессенского, и Елизаветы Прусской.
В 1866 году Людвиг командовал гессенской бригадой, в 1870 году — дивизией, с которой принял участие в сражениях при Гравелотте и Орлеане.
В 1877 году после смерти дяди Людвига III принял титул великого герцога Гессенского и Прирейнского под именем Людвига IV.
1 июля 1862 года он женился на принцессе Алисе (1843—1878), дочери королевы Великобритании Виктории и принца-консорта Альберта. В день свадьбы королева Виктория наградила зятя титулом королевского высочества. Затем Людвиг также стал рыцарем ордена Подвязки.
Дети Людвига IV и Алисы :
В 1878 году вся семья великого герцога заболела дифтерией, от которой умерли сама великая герцогиня, ухаживавшая за больными, и её младшая дочь Мария.
Уже будучи вдовцом, Людвиг в 1884 году сочетался морганатическим браком с Александриной Гуттен-Чапской (1854—1941), которая получила титул графини фон Ромрод. Брак, вызвавший большое беспокойство в семье, был аннулирован в течение года.
Великий герцог Людвиг IV умер 13 марта 1892 года, ему наследовал его сын Эрнст Людвиг.