Михаил Фриновский родился в начале 1898 года в городе (ныне село) Наровчат Пензенской губернии. Русский.
До Первой мировой войны учился в духовном училище в Краснослободске.
В январе 1916 года поступил в кавалерию вольноопределяющимся, служил в чине унтер-офицера. В январе-августе 1916 года дезертировал. Был связан с анархистами, участвовал в убийстве генерал-майора М. А. Бема.
С марта 1917 года Фриновский работал счетоводом-бухгалтером военного госпиталя. Участник июльского восстания 1917 года в Москве. В сентябре того же года вступил в Красную гвардию в Хамовниках (Москва), командовал группой красногвардейцев, участвовал в штурме Кремля, был тяжело ранен. Вплоть до февраля 1918 года — на излечении в Лефортовском госпитале.
В марте-июле 1918 г. работал помощником смотрителя Ходынской больницы, . Вступил в РКП(б), работал партийной ячейке и месткоме Ходынской больницы. В июле 1918 г. записался в Красную армию, служил командиром эскадрона, начальником Особого отдела 1-й Конной армии.
В 1919 г. после тяжелого ранения переведен на профсоюзную работу, а затем в органы ВЧК. Во второй половине 1919 г. служил помощником начальника активной части Особого отдела Московской ЧК. Участвовал в важнейших операциях ЧК — разгроме анархистов, ликвидации анархистских и повстанческих отрядов на Украине и т. д.
С декабря 1919 по апрель 1920 г. служил в Особом отделе Южного фронта. В 1920 г. был начальником активной части Особого отдела Юго-Западного фронта, заместителем начальника Особого отдела 1-й Конной армии. В 1921—1922 г. — заместитель начальника Особого отдела, заместитель начальника оперативного отряда Всеукраинской ЧК.
В 1922—1923 г. Фриновский — начальник общеадминистративной части и секретарь Киевского отдела ГПУ (с 23 июня 1923 — начальник полпредства ОГПУ по Юго-Востоку).
В ноябре 1923 г. его переводят на Северный Кавказ на должность начальника Особого отдела Северо-Кавказского военного округа. С марта 1924 г. Фриновский — первый заместитель полпреда ОГПУ по Северному Кавказу. В 1925 г. — начальник пограничной охраны Черноморского побережья Северо-Кавказского края, с января 1926 г. — первый заместитель полпреда и начальник войск ГПУ.
8 июля 1927 г. был переведен в Москву на должность помощника начальника Особого отдела военного округа. В 1927 г. он закончил курсы высшего командного состава при Военной академии РККА имени Фрунзе. С 28 ноября 1928 по 1 сентября 1930 г. был командиром и комиссаром дивизии особого назначения имени Ф. Э. Дзержинского при коллегии ОГПУ СССР.
1 сентября 1930 года Фриновский получает повышение и назначается на должность председателя ГПУ Азербайджана. Был одним из организаторов раскулачивания в Азербайджане. 8 апреля 1933 года стал начальником Главного управления пограничной охраны ОГПУ СССР, в каковом качестве руководил операцией НКВД по подавлению восстания в Синьцзяне. 10 июля 1934 года был назначен начальником Главного управления пограничной и внутренней охраны НКВД СССР.
После падения Г. Г. Ягоды и назначения главой НКВД Н. И. Ежова Фриновский назначается заместителем наркома внутренних дел СССР (16 октября 1936 г.), а затем — первым заместителем наркома внутренних дел СССР (15 апреля 1937 г.).
С 15 апреля 1937 г. по 9 июня 1938 г. он возглавляет Главное управление государственной безопасности, а с 28 марта 1938 г. — Управление государственной безопасности НКВД СССР. С 1937 депутат Верховного Совета СССР. Один из ближайших сотрудников Ежова и главных организаторов большого террора. Один из главных организаторов репрессий в РККА, принимал непосредственное участие в организации Московских процессов.
8 сентября 1938 года был назначен Наркомом Военно-Морского флота СССР.
6 апреля 1939 года снят со всех постов и арестован по обвинению в «организации троцкистско-фашистского заговора в НКВД» (в чем признался). Содержался в Сухановской особой тюрьме. 4 февраля 1940 года Военной коллегией Верховного Суда СССР приговорён к смертной казни. Расстрелян в тот же день в здании Военной коллегии Верховного Суда СССР комендантом НКВД В. М. Блохиным. Тело кремировано в Донском монастыре.
Реабилитирован не был.
Указом Президиума Верховного Совета СССР от 24 января 1941 года лишен государственных наград и воинского звания.