Член Совета Федерации (с 2003 года), до 2011 года президент Российского союза товаропроизводителей.
Родился в семье рабочего-шахтера.
Окончил Краматорский машиностроительный техникум, где учился в 1946—1950 гг. и УПИ имени С. М. Кирова, где учился в 1953—1959 годах.
С 1950 года по 1975 год работал на инженерно-технических должностях на Уральском заводе тяжелого машиностроения им. Серго Орджоникидзе (ПО «Уралмаш»): в 1955-1959 гг. начальником цеха, 1959-1965 гг. главным технологом по сварке, в 1965—1970 годах главный инженер, в 1970—1971 годах директор, в 1971—1975 годах генеральный директор.
В 1975—1979 годах первый заместитель министра тяжёлого и транспортного машиностроения СССР В. Ф. Жигалина.
В 1979—1982 годах первый заместитель председателя Госплана СССР.
С 22 ноября 1982 года до 15 октября 1985 года — Секретарь ЦК КПСС, одновременно — заведующий Экономическим отделом ЦК КПСС. В интервью Леониду Радзиховскому (в газете «Новый Взгляд», 1992) Рыжков вспоминал:
(«Андропов поручил члену ПБ Горбачёву, кандидату в члены ПБ Долгих и секретарю ЦК по экономике Рыжкову тщательно изучить сложившееся в экономике положение и подготовить предложения по её реформированию», — писал Рыжков в своих мемуарах.)
С 23 апреля 1985 года по 13 июля 1990 года — член Политбюро ЦК КПСС.
С 27 сентября 1985 года по 26 декабря 1990 года — Председатель Совета Министров СССР. В 1987 году на верфи Вяртсиля в Финляндии принял рекордно большое судно «Трансшельф». По словам академика Легасова Н. И. Рыжков внес значительный вклад в организацию работ по ликвидации последствий аварии на Чернобыльской АЭС в 1986 году.
Когда М. С. Горбачев приступил к реформам, Рыжков поддержал его курс, видя свою задачу в создании «рыночного социализма», к которому следовало двигаться «эволюционным путем». Утверждает, что ввёл в 1988 году в отечественную экономику понятия монополизма и конкуренции.
В мае 1990 года на заседании Верховного Совета, транслировавшемся на всю страну по телевизору, заявил, что цены на хлеб и продукты — неоправданно низкие и должны повыситься.
А. А. Собчак Собчак обвинял Рыжкова в потворстве созданию кооператива «АНТ», сотрудники которого пытались вывезти за рубеж 12 танков. Между тем ухудшению экономической ситуации в стране в конце 80-х способствовал и тот факт, что в пылу политической борьбы оказались забыты повседневные нужды — урожай оставался неубранным, несмотря на еженедельные выступления Н. И. Рыжкова по телевидению (особенно негативно в этом отношении высказывалось руководители столиц — Г. Х. Попов, С. Б. Станкевич и А. А. Собчак) и всё это — обвинения в адрес союзного правительства, политическая борьба вокруг концепций экономического оздоровления страны — «500 дней» С. Шаталина и Г.Явлинского, на которой настаивали радикалы, с одной стороны, и правительственной, разработанной Советом Министров Н. И. Рыжкова, с другой — привело к тому, что в конце декабря 1990 года Рыжков перенес обширный инфаркт и был отправлен М. С. Горбачевым в отставку. "Рыжков был Горбачеву союзник" (до его попытки выдвижения кандидатом в президенты СССР), — отмечал про тот период академик С. Шаталин.
Н. И. Рыжков находился на должности Председателя СМ СССР с начала перестройки, когда были заложены основы изменений в хозяйственной и экономической жизни страны. Заметно сократилось обновление основных фондов, производство средств производства и отчетливо возросла дифференциация доходов групп населения, приведшая к изменению масштаба цен уже в 1988 г. Таким образом, в период его руководства были созданы предпосылки для системного кризиса экономики в 1991-98 гг. Однако, не следует считать, что Н. И. Рыжков имел злой умысел на развал экономики СССР. По воспоминаниям коллег, причина лежит в его недостаточной компетентности и отсутствии необходимой квалификации, что регулярно приводило к манипулированию им со стороны его помощников.
В 1991 году, выйдя на пенсию, баллотировался в президенты РСФСР от партии КПСС (набрал чуть больше 16 % голосов, заняв второе место после Ельцина, избранного в первом туре).
Работал экспертом Военно-промышленной инвестиционной компании, был советником, а затем председателем совета директоров Тверьуниверсалбанка.
В декабре 1995 года избран депутатом Государственной думы Федерального Собрания России второго созыва по Белгородскому одномандатному избирательному округу № 62 от блока «Власть - народу». В думе возглавлял депутатскую группу «Народовластие». Председатель Исполкома Народно-патриотического союза России (НПСР).
В декабре 1999 года по этому же округу избран депутатом Государственной думы третьего созыва.
В сентябре 2003 года назначен представителем администрации Белгородской области в Совете Федерации Федерального Собрания РФ. В связи с этим сложил полномочия депутата Государственной думы.
Председатель Комиссии Совета Федерации по естественным монополиям, член Комитета по вопросам местного самоуправления, сопредседатель российско-армянской комиссии межпарламентского сотрудничества.
Супруга - Рыжкова Людмила Сергеевна (род. 5.05.1932 г.). Дочь - Рыжкова Марина Николаевна (род. 22.10.1956 г.).
Академик Инженерной академии России, академик Технологической академии РФ, Академик Академии социальных наук, Действительный член Международной Академии управления.