Представитель, как и брат, гейдельбергских романтиков (кружок в Гейдельберге в 1805—1809), ставивших целью возрождение общественного и научного интереса к народной культуре (фольклору).
Опубликованные братьями Гримм книги по истории и грамматике немецкого языка, на фоне многочисленных диалектов последнего, явились стимулом к оформлению германистики и лингвистики в самостоятельную научную дисциплину.
Основоположник мифологической школы в фольклористике (книга «Немецкая мифология», 1875 год).
Вместе с братом составил знаменитое собрание немецких сказок. Главный труд жизни братьев Гримм — «Немецкий словарь» (нем. Deutsches W?rterbuch); вопреки названию, это фактически сравнительно-исторический словарь всех германских языков. Авторы успели довести его только до буквы «F», завершён он был лишь в 1970-е годы.
Умер Якоб Гримм от инсульта 20 сентября 1863 года.