В то время, когда родился Герман Ганкель его отец Вильгельм Готтлиб Ганкель (нем. Wilhelm Gottlieb Hankel) работал преподавателем физики в Галле, но в 1849 году ему предложили кафедру в физики в Лейпциге, куда семья Ганкелей и переехала. Герман учился в Гимназии святого Николая.
В 1857 году Герман поступил в Лейпцигский университет, где учился математике у Августа Мёбиуса и физике у собственного отца. В 1860 году Ганкель продолжил учёбу в университете Гёттингена у Бернхарда Римана, и в следующем году работал с Карлом Вейерштрассом и Леопольдом Кронекером в Берлине, где и защитил диссертацию на тему «О специальном классе симметричных определителей» (нем. ?ber eine besondere Klasse der symmetrischen Determinanten)