Михаил Михайлович Громов родился 24 февраля 1899 года в Твери. Детство и юность провёл в Калуге, Ржеве, посёлке Лосиноостровский (мыза Раево, ныне — в черте Москвы).
Согласно своей автобиографии, публикация которой в начале 70-х гг. XX века была чрезвычайно затруднена по причине цензуры (автор назвал этот процесс «хождением по мукам»), Михаил Громов имел в своём социальном происхождении как дворянские, так и крестьянские корни. Отец, Михаил Константинович Громов — происходил из семьи дворянской интеллигенции. Как человек чрезвычайно одарённый, он рано проявил разнообразные способности, в том числе в музыке и рисовании. После гимназии он поступил на медицинский факультет Московского университета и далее служил военным врачом.
Мать, Любовь Игнатьевна Андреева, происходила из малограмотной крестьянской семьи, когда подросла, то убежала из дому в Петербург, чтобы получить образование. Там она окончила акушерские курсы, вернулась в Тверь и повстречалась с Михаилом Константиновичем Громовым. Вскоре они тайно обвенчались. Брак их был «неравным» и родные отца М.Громова, узнав о нём, вынуждены были этот брак отвергнуть.
Провёл испытания многих известных самолётов. Выполнил ряд дальних перелётов по Европе, в Китай и Японию.
10-12 сентября 1934 года на самолёте АНТ-25 (второй пилот — А. И. Филин, штурман — И. Т. Спирин) совершил рекордный по дальности и продолжительности перелёт по замкнутому маршруту — 12411 км за 75 часов.
За мужество и героизм, проявленные при выполнении этого перелёта, лётчику-испытателю Громову Михаилу Михайловичу 28 сентября 1934 года присвоено звание Героя Советского Союза, а Филин А. И. и Спирин И. Т. награждены орденами Ленина.
В 1937 на АНТ-25 (второй пилот — А. Б. Юмашев, штурман — С. А. Данилин) совершил беспосадочный перелёт Москва — Северный полюс — Сан-Джасинто (США), установив 2 мировых авиационных рекорда дальности полёта. За этот перелёт Громов М. М. был награждён орденом Ленина, а Юмашеву А.Б и Данилину С. А. присвоены звания Героев Советского Союза. Международная авиационная федерация (ФАИ) наградила пилотов и штурмана медалью Анри де Лаво за лучшее достижение 1937 года.
Жил в Москве. Умер 22 января 1985. Похоронен в Москве, на Новодевичьем кладбище.
Депутат Верховного Совета СССР 1-го созыва (в 1937—1946 годах).
Именем М. М. Громова названы улицы в Твери, Москве (Улица Громова), Севастополе, Екатеринбурге, Витебске, Днепропетровске, Челябинске, Владивостоке, площадь в г. Жуковском Московской области, самолёт Ту-160 (разбился в 2003 году), самолет Ил-96-300 авиакомпании «Аэрофлот — Российские Авиалинии» (борт 96015). Имя прославленного лётчика носит Лётно-исследовательский институт.
МОУ Лицей №14 имени М.М. Громова в г. Жуковский пионерская дружина школы № 64 г. Свердловска носила имя М. М. Громова. А также средняя общеобразовательная школа № 227 города Киева носит имя М. М. Громова.
Имя Громова упоминается в песне «Боевая Сталинская»