Сергей Гербель родился в 1856 году в семье купца Санкт-Петербургской губернии. По окончании Кременчугского реального училища в 1877 году поступил в Елисаветградское кавалерийское училище, откуда был выпущен корнетом в 1878 г. Оставил военную службу в 1883 году. С этого времени он жил в Херсонской губернии и активно работал на разнообразных должностях в земской уездной и губернской управах.
С 1886 года он губернский гласный, почётный мировой судья, член херсонского училищного совета.
В январе 1889 года был утверждён членом комитета Херсонского отделения Государственного банка по выдаче ссуд землевладельцам.
В 1900 году — председатель Херсонской губернской земской управы.
С октября 1901 года — статский советник. После назначения в Харьков губернатором князя И. Оболенского в сентябре 1902 года С. Гербеля утвердили харьковским вице-губернатором.
В 1903-1904 годах занимал должность губернатора Харькова.
В 1904-1912 годах — начальник управления в делах местного хозяйства министерства внутренних дел России, член Государственного совета.
Во время Первой мировой войны — главноуполномоченный по снабжению продовольствием Русской армии.
С 29 мая 1918 года — представитель председателя Совета министров Украинской Державы при Главном штабе австро-венгерских войск в Одессе. С 3 июля — министр продовольствия в правительстве Ф. Лизогуба, принимал участие в составлении проекта аграрной реформы. Подписал «Записку девяти» (октябрь 1918) о необходимости переориентации внешней политики Украинской Державы на Антанту и установление федеративной связи с будущей небольшевистской Россией. После провозглашения «Федеративной Грамоты» 14 ноября, возглавил новый кабинет, где занимал также должность министра земельных дел. В середине декабря был арестован в Киеве украинской республиканской властью и заключён к Лукьяновскую тюрьму. Освобождён в феврале 1919 года, выехал в Одессу.
С 1919 года — в армии А. Деникина, где был главноуполномоченным в продовольственных делах. Современники, в частности князь Е. Трубецкой, утверждают, что Сергей Гербель, будучи на службе у гетмана П. Скоропадского, сознательно поддерживал организацию добровольческих военных отделов на Украине, занимался саботажем, укрывательством запасов хлеба, сукна и оружия, на Черниговщине и Харьковщине. В 1919 году выехал в Германию. Последующая судьба и год смерти неизвестны.
Медали: