В 1915 году призван в царскую армию и направлен на русско-германский фронт. В 1918 году добровольно вступил в Красную Армию и был зачислен в 1-й Саратовский пехотный полк 25-й Чапаевской дивизии. Участник гражданской войны, воевал в составе 25-й Чапаевской стрелковой дивизии.
После гражданской войны окончил двухгодичную Киевскую объединённую пехотную школу, вскоре после этого был назначен в Среднеазиатский военный округ. Принимал активное участие в борьбе с басмачами. Член ВКП(б) с 1920 года. С 1938 года — военный комиссар Киргизской ССР. Во время Великой Отечественной войны — командир 316-й стрелковой дивизии (с 17 ноября 1941 года — 8-я гвардейская, прославленная тяжёлыми оборонительными боями на Волоколамском направлении. Эта дивизия набиралась из жителей Алма-Аты (ныне Алматы) и Фрунзе (ныне Бишкек).
Взвод истребителей танков именно этой дивизии 16 ноября 1941 года, в ходе ожесточенных боев приостановил на 4 часа продвижение 50 вражеских танков, уничтожив 18 из них, что вошло в историю как Подвиг 28 героев-панфиловцев.
16 ноября дивизия была атакована силами двух танковых дивизий немцев — 2-я танковая дивизия атаковала позиции 316-й стрелковой дивизии в центре обороны, а 11-я танковая дивизия ударила в районе Дубосеково, по позициям 1075-го стрелкового полка. Части дивизии во главе с Панфиловым вели тяжёлые оборонительные бои с превосходящими силами противника, в которых личный состав проявил массовый героизм. В ходе боев 16-20 ноября на Волоколамском направлении 316 стрелковая дивизия (с 17 ноября Краснознаменная, с 18 ноября Гвардейская) остановила наступление двух танковых и одной пехотной дивизии вермахта. За успешные действия в ходе этих боев дивизия, уже ставшая 8 гвардейской Краснознаменной, 23 ноября получила почетное звание Панфиловской. Генерал-полковник Эрих Гепнер, командовавший 4-ой танковой группой, чьи ударные силы потерпели поражение в боях с 8 гвардейской дивизией, называет ее в своих донесениях командующему группой «Центр» Федору фон Боку — «дикой дивизией, воюющей в нарушение всех уставов и правил ведения боя, солдаты которой не сдаются в плен, чрезвычайно фанатичны и не боятся смерти».
«Массовый героизм — не стихия. Наш негромогласный, неказистый генерал готовил нас к этому дню, к этой борьбе, предугадал, предвосхитил ее характер, неуклонно, терпеливо добивался уяснения задачи, „втирал пальцами“ свой замысел. Напомню еще раз, что наш старый устав не знал таких слов, как „узел сопротивления“ или „опорный пункт“. Нам их продиктовала война. Ухо Панфилова услышало эту диктовку. Он одним из первых в Красной Армии проник в небывалую тайнопись небывалой войны. Оторванная от всех маленькая группа — это тоже узелок, опорная точка борьбы. Панфилов пользовался любым удобным случаем, чуть ли не каждой минутой общения с командирами, с бойцами, чтобы и так и эдак растолковать, привить нам эту истину», так цитирует комбата Бауржана Момыш-Улы в своей книге «Волоколамское шоссе» писатель Александр Бек.
Погиб 18 ноября 1941 года у деревни Гусенёво Волоколамского района Московской области, от осколков немецкой миномётной мины.
Вот как описывает момент гибели генерала Панфилова маршал (в 1941 — полковник) Катуков, чья 4-я танковая бригада воевала на соседнем участке фронта:
Похоронен в Москве на Новодевичьем кладбище.
Памятник Панфилову в Алма-Ате у южного входа в парк имени 28 гвардейцев-панфиловцев
Памятник Герою Советского Союза, Военкому Киргизской ССР генерал-майору Панфилову Ивану Васильевичу в Бишкеке