Из духовного звания. Жена — Варвара Фёдоровна, урождённая Доброчеева (первым браком была замужем за Н. А. Холоповым, овдовела). Дочери — Софья, Варвара, Наталия. Сын — Александр (1867—1925) — промышленник и финансист. Внуки — Иван Александрович, А. В. Книпер. Правнук — Владимир Тимирёв
Брат Николай был педагогом и профессором русской словесности.
Учился в Тверской духовной семинарии (1843—1845). Окончил физико-математический факультет Главного педагогического института в Петербурге (1851; с серебряной медалью; за отличные способности и успехи на экзаменах получил звание старшего учителя). Магистр математических наук (1854; защитил в Петербургском университете диссертацию на тему «О движении системы материальных точек, определяемой полными дифференциальными уравнениями»).
В 1860—1862 находился за границей для подготовки к профессорскому званию, изучал состояние машиностроения на промышленных предприятиях и в высших технических учебных заведениях Германии, Франции, Бельгии и Великобритании, слушал лекции по конструированию машин в высшем техническом училище в Карлсруэ.
В 1869 был назначен членом Комитета по устройству Всероссийской мануфактурной выставки в Петербурге в 1870, во время которой был председателем комитета экспертов в одном из её отделов («пятой группе предметов»). В 1873 — член международного комитета экспертов Венской всемирной выставки, занимался организацией русского машинного отдела выставки. В 1876 был командирован на выставку научных предметов в Лондоне. В 1878 исполнял обязанности вице-президента экспертов по машинному и инженерному делу на выставке в Париже. В 1879 стал генеральным комиссаром Всероссийской выставки промышленности и художеств в Москве в 1882.
Сыграл большую роль в создании научных основ конструирования машин. Создал русскую научную школу инженеров-машиностроителей. Ввёл преподавание курса теоретических основ машиностроения, читал курсы прикладной механики, термодинамики, теории упругости, грузоподъёмных машин, токарных станков, паровых машин и др. Ввёл для студентов курсовое и дипломное проектирование. Автор руководства «Элементарная механика», в течение многих лет считавшееся лучшим в России в данной области. Среди учеников И.А. Вышнеградского: В.Л. Кирпичев (организатор технического образования, первый ректор Харьковского технологического института), Н.П. Петров (создатель математической теории смазки), А.П. Бородин (изобретатель в области паровозостроения).
Выдающийся инженер-конструктор. Среди сконструированных им машин: автоматический пресс для изготовления призматического пороха, подъёмные машины, пресс для испытания материалов, механический перегружатель грузов (для речного порта) и др. Участвовал в строительстве Охтинского порохового завода, механических мастерских Петербургского арсенала, патронных, пороховых и оружейных заводов.
Вышнеградский один из основоположников теории автоматического регулирования. В работе «О регуляторах прямого действия» (1877) представил метод расчёта регуляторов этого типа. Сформулировал условие устойчивости системы регулирования (критерий Вышнеградского).
Впервые введённые им в практику метод графического разделения плоскости параметров системы регулирования на области устойчивости и метод исследования качества переходного процесса лежат в основе современной теории регулирования.
Математические способности Вышнеградского описаны в воспоминаниях С. Ю. Витте:
С 1869 — член правления Петербургского водопроводного общества. С 1874 — член правления Общества Рыбинско-Бологовской железной дороги. С 1875 — член правления Общества Киевско-Брестской железной дороги. С 1878 — вице-председатель, с 1881 — председатель Общества Юго-Западных железных дорог. Как крупный предприниматель нажил миллионное состояние.
В 1880-е годы Вышнеградский входил в близкое окружение крайне влиятельного консервативного публициста, редактора «Московских ведомостей» Михаила Каткова (публиковал в его газете статьи по финансовым вопросам). Именно по предложению Каткова в 1884 Вышнеградский стал сначала членом Совета при министре народного просвещения, где участвовал в разработке консервативного университетского устава 1884 года, а также стал главным автором проекта промышленного образования. В 1886 Вышнеградский был назначен членом Государственного совета и Комитета финансов.
Пользуясь протекцией влиятельного князя Владимира Мещерского (близкого к Александру III), а также мощной поддержкой Каткова, который в 1885-1887 годах развернул активную кампанию за отставку «министра-инородца» Николая Бунге, с 1 января 1887 года Вышнеградский занял пост министра финансов. Главной целью нового руководителя министерства - стало уничтожение бюджетного дефицита и политика покровительства отечественной промышленности. Для этого Вышнеградский намеревался ввести винную и табачную монополии, пересмотреть железнодорожные тарифы и таможенные пошлины. За первые два года ему действительно удалось уменьшить бюджетный дефицит, значительно увеличить золотой запас России, а вместе с ним – и устойчивость рубля. Но ради достижения этой цели Вышнеградский в 1887-88 годах повысил прямые и косвенные налоги. Это позволило провести конвертацию внешних займов России (с 5 до 4%) и начать масштабный выкуп железных дорог в казну.
При Вышнеградском более чем в два раза вырос экспорт русского хлеба. Это именно ему, министру Вышнеградскому приписывают слова: «недоедим, но вывезем». Однако, при этом он он не уделял достаточного внимания аграрному вопросу, что способствовало осложнению положения в деревне и голоду 1891-92 годов, в результате подорвавшему многие начинания Вышнеградского. Как министру, ему не хватало широкого кругозора, он вёл себя в основном как узкий финансист. Однако его уход с министерского поста в 1892 году был вызван вовсе не некомпетентностью, а тяжёлой болезнью и интригами, прежде всего со стороны его непосредственного преемника, С.Ю.Витте.
Однако помехи в деятельности следовали не только изнутри министерства, от коллег и конкурентов. Всё-таки, Вышнеградский был человеком не совсем своим среди традиционного аппарата чиновников. Помехи и препятствия в работе возникали порой в самых неожиданных местах. Так, например, 30 марта 1889 года главой министерства путей сообщения был назначен Адольф Яковлевич фон Гюббенет. В отличие от своего предшественника, генерала Паукера, у него сразу же сложились крайне напряжённые отношения с министром финансов, который в деловых вопросах теперь оказывался ближайшим партнёром и сотрудником министра путей сообщения (тарифная политика, выкуп дорог и целый ряд других, не менее важных). Александр III был хорошо осведомлён о тлеющем конфликте, но относился к нему не только спокойно, но и даже с некоторым удовольствием. Как рассказывал Вячеслав Плеве начальнику Главного управления по делам печати Евгению Феоктистову,
Такое положение казалось бы создавало некоторые преимущества для Гюббенета, но при том его позиции изрядно подрывались... им же самим. Он был слишком явно некомпетентен в делах собственного ведомства. Вышнеградский же, находясь постоянно в обстановке интриг и пристального внимания, которые были ему не свойственны по характеру, нервничал и чувствовал себя не на своём месте. В конце концов это и привело его к углубляющейся болезни и отставке в 1892 году.
В январе 1887 назначен управляющим министерством финансов, в 1888—1892 — министр финансов. Был назначен по инициативе Каткова, который добился увольнения либерального министра Н. Х. Бунге и рассчитывал, что Вышнеградский резко пересмотрит политику министерства в направлении проведения продворянской финансовой политики. Кроме того, Бунге не смог решить вопрос выработки бездефицитного бюджета, который стал одной из главных задач нового министра.
В 1890 году стал Почётным гражданином Казани.
Предприняв некоторые меры, направленные на защиту дворянских интересов (например, была проведена конверсия закладных листов общества взаимного поземельного кредита, причём новые закладные листы освобождались от уплаты купонного налога), Вышнеградский, в целом, продолжил политику своего предшественника, направленную на борьбу с бюджетным дефицитом и укрепление национальной валюты. Проводил протекционистскую политику, существенно повысив таможенные пошлины, что проявилось, в частности, в Таможенном тарифе 1891, увеличившего пошлины для 63 % ввозимых товаров и сокративших только для 2 %.
Значительное внимание уделял созданию запаса золотой наличности, что позволило его преемнику С. Ю. Витте провести денежную реформу (ввести «золотой рубль»). Инициировал увеличение косвенных налогов: был повышен питейный акциз, введены нефтяной и спичечный акцизы, дополнительный акциз с рафинированного сахара, увеличен гербовый сбор (повышение косвенного налогообложения было подвергнуто критике оппонентами Вышнеградского как ухудшающее положение малоимущих слоёв населения). Выступал за поощрение экспорта — в частности, провёл понижение хлебных тарифов; на зерно, вывозимое за границу, была установлена 10%-ная скидка. Стимулировал вывоз не только излишком хлеба, но и части необходимых запасов крестьян. Как писал об этом известный ученый экономист Озеров Иван Христофорович :
Когда, неурожаи 1891 и 1892 вызвали голод среди крестьянства и нанесли удар по экспортной политике Вышнеградского,он руководил выкупом в казну нерентабельных железных дорог, предпринял контрольно-финансовую (1889—1890) и тарифную (1889) реформы в железнодорожной сфере. Провёл конверсии государственных (внешних и внутренних) займов, что способствовало сокращению платежей по государственному долгу, понижению процента, упорядочиванию государственного долга (при этом сам государственный долг при нём увеличился за счёт новых займов).
Энергичный и предприимчивый министр финансов, пришедший из предпринимательской среды, был нетипичной фигурой для российской бюрократии. В мемуарах Витте описана история обвинения Вышнеградского в получении взятки в размере 500 тысяч франков от Ротшильда при заключении в Париже займа. Однако история была сложнее — Ротшильд отстранил от участия в займе одну из конкурирующих банкирских групп (Госкье), которая предварительно заручилась согласием Вышнеградского на своё участие в выгодном проекте. Тогда министр финансов действительно попросил Ротшильда выплатить ему 500 тысяч франков, но всю сумму перевёл «обиженным» банкирам как компенсацию за упущенную выгоду. Витте вспоминал, что Александр III, узнав о подробностях проведённой операции,
В апреле 1892 Вышнеградский по состоянию здоровья ушёл в отставку с поста министра, оставшись членом Государственного совета. Управляющим делами министерства финансов был назначен товарищ министра - Ф.Г. Тернер. Тернер управлял министерством до назначения С.Ю. Витте 30 августа 1892 года. Похоронен в Исидоровской церкви Александро-Невской лавры в Петербурге, в настоящее время могила утрачена
1893 - 25.03.1895 года - доходный дом И. О. Утина - Конногвардейский бульвар, 17.