Получив образование в гимназии г. Мюндена, Гротефенд посвятил себя классической филологии. С 1797 он стал сотрудником городской школы Мюндена. В 1803 г. он стал проректором городской гимназии Франкфурта (в настоящее время — Франкфуртская гимназия им. Лессинга), позднее — соректором гимназии с 1806 по 1821 г. В 1812—1814 он одновременно являлся профессором классической литературы в Lyceum Carolinum, одном из основанных Великим герцогом Карлом Теодором фон Дальбергом во Франкфурте университетов. В 1819 г. он стал одним из учредителей «Общества древней истории Германии» (Gesellschaft f?r Deutschlands ?ltere Geschichtskunde), которое осуществило издание Monumenta Germaniae Historica. В 1821 г. он стал директором лицея в Ганновере.
В 1802 г. ему удалось в течение всего нескольких недель расшифровать открытую в 1621 г. надпись из Персеполя, которую опубликовал Карстен Нибур. Предлогом стало заключённое с знакомым пари, что он сможет дешифровать совершенно неизвестную ему ранее систему письма.
Как преподавателю древнегреческого языка, Гротефенду были известны имена персидских царей (правда, он ориентировался на их написание в Авесте — это оказалось ошибкой, в древнеперсидском те же имена звучали несколько иначе). Хронологически сопоставив предполагаемые имена царей в клинописных текстах с известными ему именами царей, он прочёл имена Ксеркса, Дария и Гистаспа.
Также Гротефенд известен тем, что разоблачил как подделку «Древнюю историю финикийцев» Санхуниатона (Hannover 1836).
Гротефенд ушёл на пенсию в 1849 г. и умер 15 декабря 1853 г. в Ганновере. Похоронен на Садовом кладбище (Мариенштрассе).
Г. Ф. Гротефенд был отцом историка Карла Людвига Гротефенда (22 декабря 1807; † 27 октября 1874) и дедом архивариуса и хронолога Германа Гротефенда (р. 18 января 1845, Ганновер; † 26 мая 1931, Шверин).
В его родном городе Мюнден (Ганновер), во Франкфурт-Экенхайме, в Гамбург-Изерброке, в Гёттингене и в Ганновере его именем названы улицы. Гимназия его родного города Мюнден (Ганновер) носит с 1976 г. его имя.