Выходец из московской купеческой семьи.
В 1881 году юный Николай Гучков — выпускник 2-й московской гимназии. сразу же поступил в Московский университет.
В 1886 году — кандидат юридического факультета Московского университета.
Директор Товарищества чайной торговли "Петра Боткина сыновья", Товарищества Ново-Таволжанского свеклосахарного завода Боткиных, один из директоров торгового дома "Ефим Гучков и сыновья" (до 1911), член правления завода "Гужон", Товарищества металлических заводов, Нижегородско-Самарского земельного банка, член советов Петербургского международного и Московского коммерческого банков; занимал ряд других подобных должностей. Почетный мировой судья, потомственный почетный гражданин города Москвы (1887), земский гласный, член губернского по земским и городским делам (1901) и городского по воинской повинности присутствий. Действительный статский советник.
В 1893 году 33-летний Николай Иванович избран гласным Московской городской думы. В Думе был членом финансовой, водопроводной, железнодорожной, училищной и других комиссий, совета попечительств о бедных. Находился в оппозиции к московскому губернатору и городскому голове В. М. Голицыну. Имел большой опыт общественной работы в областях народного образования и народного призрения.
В 1905 году участвовал в создании и работе политической партии Союза 17 октября.
В связи с событиями октября 1905 года Голицын ушёл в отставку. После отставки Голицына, Николай Гучков баллотировался и был избран московским городской головой.
29 ноября 1905 года московский градоначальник писал о Гучкове в своём представлении управляющему министерством внутренних дел:
Сразу после избрания городским головою Гучков вышел из союза октябристов, провозгласил курс на беспартийную хозяйственную работу в городе и придерживался его впоследствии.
Начало его работы на этом посту совпало с революционными выступлениями рабочих Москвы в ноябре-декабре 1905 года. Николай Иванович сделал все возможное для защиты мирных граждан, женщин и детей, находившихся в опасных кварталах города, и организовал санитарную помощь раненым и горожанам, потерявшим жилье и средства к существованию. Когда жизнь города вернулась в нормальное русло, основной заботой Н. И. Гучкова стало благоустройство Москвы.
Гучкову достались в наследство разорённые городские финансы (поступлений не хватало на выплату зарплаты), распропагандированные революционерами городские служащие, разрушения после декабрьских боёв и городская дума, расколотая на два непримиримых лагеря.
7 января 1909 года Николай Гучков был переизбран.
При Гучкове в 1911 году московская городсая дума издала постановление о приобретении владения Л. Н. Толстого в Хамовниках.
8 (21) сентября 1911 года Гучков, как московский городской голова, выехал в Киев на похороны Петра Столыпина. В день погребения, 9 (22) сентября, он возложил на гроб Столыпина венок с надписью: «Положившему жизнь за Родину, великому гражданину русской земли Петру Аркадьевичу Столыпину от города Москвы».
Годы его руководства стали расцветом хозяйственной деятельности Думы. В 1908-1912 годах прибыли промышленных предприятий Москвы возросли более чем в три раза. Были восстановлены городские финансы, доходная часть бюджета к 1913 выросла до 49 млн.руб. по сравнению с 15 млн в 1901, при дефиците бюджета менее 2 млн.руб. Началось строительство второй очереди городской канализации, развита лучшая в России трамвайная сеть, начальное образование стало общедоступным и бесплатным.
Выйдя в отставку, Гучков оставался гласным городской Думы и активным деятелем думских комитетов, организатором московского Красного Креста. После его отставки, Москва почти два года оставалась без городского головы — за год Дума избирала руководителя трижды, но никто из избранников не был утвержден правительством. Только в 1914 был утверждён М. В. Челноков.
С июня 1915 года — представитель Московской городской думы в Центральном военно-промышленном комитете.
После Февральской революции, с мая 1917 — председатель Русско-Американской торговой палаты. Уполномоченный Общества Красного Креста, Земгора и других учреждений при правительствах А. И. Деникина и П. Н. Врангеля.
После Октябрьской революции принимал участие в Белом движении. В 1918 году уехал на юг, в ставку А. И. Деникина.
В 1920 году эмигрировал во Францию, на родину своей матери.
В 1920-е годы член приходского совета церкви преп. Сергия Радонежского на Свято-Сергиевском подворье в Париже.
Скончался 6 января 1935 года в Париже, похоронен на кладбище Сент-Женевьев-де-Буа.
22 декабря 2010 года в здании Московской городской Думы состоялось открытие историко-документальной выставки Главархива Москвы «Московский городской голова Николай Иванович Гучков. К 150-летию со дня рождения».