Получил образование в университете Халле (филология), затем в Берлине (санскрит). Защитил диплом в 1861 году в возрасте 19 лет. В 1866 году защитил диссертацию о синтаксисе в Ригведе. Преподавал в Галле и в Йене (сравнительное языкознание, санскрит), в 1908—1913 — ректор университета в Иене.
Основной сферой научных интересов Дельбрюка был сравнительно-исторический синтаксис индоевропейских языков, который он изучал в основном на материале древнегреческого и санскрита. Вместе с Карлом Бругманом написал монументальный «Очерк сравнительной грамматики индоевропейских языков» (нем. Grundri? der vergleichenden Grammatik der indogermanischen Sprachen), где ему принадлежат три последних тома, посвящённых синтаксису (1893, 1897, 1900). Дельбрюк фактически заложил основания науки об историческом синтаксисе; многие его наблюдения и выводы не утратили своего значения и по сей день. Краткий очерк истории сравнительного языкознания, написанный Дельбрюком в 1904 году, выдержал множество изданий и переведён на русский язык.