Родился в деревне в Подмосковье. В тринадцать лет начал работать на Обуховском заводе в Петербурге, где участвовал в Обуховской забастовке 1901 года. В пятнадцать лет присоединился к РСДРП и встал на сторону большевиков. Занимается подпольной революционной деятельностью, за что подвергается репрессиям со стороны царской охранки и проводит большую часть Первой мировой войны в сибирской ссылке.
В 1917 года организовал в Ачинске Совет рабочих и солдатских депутатов. В 1918 году возвратился в Петроград и участвовал в работе Всероссийского Совета рабочих, крестьянских и солдатских депутатов. Во время гражданской войны — председатель Революционного трибунала при ВЦИК (1918) и политкомиссар.
В начале 1920 года был направлен в Москву для работы в ЦК Всероссийского союза металлистов. Вместе с Александром Шляпниковым руководил «Рабочей оппозицией».
В конце 20-х годов работал в Наркомате тяжёлой промышленности. В 1932 году ЦКК расследовала деятельность Медведева в связи с делом Рютина, но не нашла никаких улик. В конце 1933 года был исключен из партии и в январе 1934 года отправлен в административную ссылку на север России.
Арестован 24 января 1935 г, содержался в Челябинском политизоляторе особого назначения. Виновным себя не признал. Приговорён ОСО при НКВД СССР к 5 годам ИТЛ, отбывал наказание на строительстве Беломорско-Балтийского канала в Медвежьегорске. Затем 23 января 1937 г. доставлен в Москву, 10 сентября 1937 г. приговорен Военной коллегией Верховного суда СССР по обвинению в террористических намерениях к расстрелу, приговор исполнен в тот же день. Реабилитирован посмертно в январе 1978 г.