Иван Саввич Горголи родился в 1773 году (по другим данным в 1776 или 1770).
В 1793 году по окончании греческой гимназии и первого кадетского корпуса ему был присвоен чин поручика. Ввиду того, что в тот период шла Русско-польская война 1792—1794, был направлен в действующую армию. Хорошо себя проявил во время осады Вильно, вследствие чего был назначен капитаном.
В 1796 году Ивана Горголи перевели в Павловский гренадерский полк, а в 1799 году отправили в составе десантного корпуса в Голландию. По возвращении из Нидерландов в 1800 году ему был пожалован чин майора с назначением на должность помощника санкт-петербургского коменданта. В это же время он вступил в заговор против Павла I, впрочем не обладая в нём значительным авторитетом.
После свержения Павла в 1801 году получил чин подполковника лейб-гвардии Семеновского полка. В 1803 был повышен до полковника, при этом оставаясь помощником санкт-петербургского коменданта.
Во время русско-французских войны 1805—1807 г. был удостоен ордена Святого Владимира III степени и орден Святого Георгия IV степени в 1805 и 1807 году соответственно. Помимо орденов ему была вручена золотая шпага с выгравированной на ней надписью «За храбрость».
В 1809 году, уже по окончании войны, Иван Саввич Горголи был назначен на должность флигель-адъютанта Александра I. В том же году, получив разрешение императора, он отправился добровольцем во французскую армию и в её составе после Ваграмского сражения получил орден Почетного Легиона.
В 1811 году, по возвращении в Россию, он был назначен на должность Санкт-Петербургского обер-полицеймейстера, а 1812 году ему был присвоен чин генерал-майора.
В 1825 году Горголи стал генерал-лейтенантом и сенатором Российской империи.
В 1843 году ему был присвоен чин действительного тайного советника.
Скончался Иван Саввич Горголи в 1862 году.
Горголи был женат на одной из воспитанниц Ивана Ивановича Бецкого.
Иван Саввич Горголи является одним из реально существовавших персонажей, упоминаемых в романе Александра Дюма «Учитель фехтования». Дюма описывал его «…одним из красивейших мужчин столицы и отважнейших генералов русской армии.»