Родился Семён в дворянской семье 8 (20) июля 1812 года в Псковской губернии.
В 1822 году поступил в Морской корпус. Получив в 1828 году звание мичмана, он был переведен в офицерские классы и 31 декабря 1831 года окончил их в чине лейтенанта флота.
«Директор Морского корпуса И.Ф.Крузенштерн», - писал Зеленой, «...исходатайствовал о назначении меня в Дерпт, где советы и уроки Струве усвоили мне тайны астрономии и доставили возможность занятий ею, следить каждое новое открытие, новое улучшение по теоретической и практической части этой науки, а следовательно видеть и судить, что необходимо в настоящее время для морского офицера...». Астрономическое образование Зеленой закончил в Юрьеве, под руководством знаменитого В. Я. Струве.
В 1833 году, как искусный наблюдатель, принимал участие в трудах хронометрической экспедиции под начальством Ф. Ф. Шуберта для определения долгот важнейших мест вдоль берегов и на островах Балтийского моря.
В 1835 году после окончания стажировки у В.Я.Струве в Дерпте Зеленой вернулся в МКК, где стал преподавать мореходную астрономию.
Два года (1837—1839) в звании лейтенанта флота читал в Санкт-Петербургском университете астрономию в её приложении к геодезии. Позже был директором гидрографического департамента и председателем Главного военно-морского суда.
В 1838 г. С. И. Зеленой составил "Беседы с детьми об астрономии и небе" . Книга имела большой успех, а её автор удостоился за прекрасное и дельное изложение Высочайшей награды — брильянтового перстня.
В 1842 году Академия наук удостаивает учебник С. Зеленого «Астрономические средства кораблевождения» демидовской премии .
В.Я.Струве так писал об этом учебнике: «...труд сей не просто свод из лучших сочинений по сей части других наций, но труд самобытный, расположенный и исполненный по благоразумному обдуманному плану... Там где Автор действовал более независимо, именно в наблюдательной астрономии, он являет себя основательным знатоком теории астрономических инструментов, их устройства, ... и моряком, которому употребление их на море известно из опыта...». В том же году Зеленой произведен в капитан-лейтенанты.
В 1844 году С. Зеленой издал замечательные для того времени «Лекции популярной астрономии, читанные публично...» (2-е изд. СПб. 1850).
С 1845 года член Русского географического общества. В 1848 году назначен членом Морского ученого комитета, а в 1849 году, произведен в капитаны 2-го ранга и оставил службу в Морском ведомстве.
В 1850-1855 гг. - директор Лазаревского института восточных языков в Москве. На этом посту Зеленой обнаружил «исключительные педагогические и административные способности и менее чем за пять лет поставил его на исключительную высоту, как со стороны внешнего порядка, так и внутренней организации». За все это был награжден орденом св. Анны 2-й степени, произведен за отличие в полковники (1853), а за научные труды удостоен ордена св. Владимира 4-й степени как "достойнейший из достойных по уму, сердцу и образованию".
В 1855 году, вскоре после начала Севастопольской кампании, по личному желанию командующего флотом Вел. Кн. Константина Николаевича, был возвращен во флот "как один из отличнейших моряков, ошибочно уволенных прежним начальством", с переименованием в капитаны 1 ранга и назначением вице-директором Гидрографического департамента Морского министерства.
В 1857 году произведен в генерал-майоры, а в 1859 г. переименован в контр-адмиралы.
В 1859 году в чине контр-адмирала назначен директором Гидрографического департамента Морского министерства, где под его руководством сделан ряд капитальных гидрографических работ и составлены карты Балтийского и Каспийского морей, Ладожского озера и Восточного океана.
C 1861 года - председатель Морского Учёного Комитета, объединил и возглавил при этом главное руководство ученой и учебной частями во флоте. При его поддержке и личных трудах впервые наш флот стал обслуживаться мореходными инструментами русской работы, не только не уступавшими иностранным, но и превосходившими их тщательностью и точностью.
В 1866 году произведён в вице-адмиралы и избран председателем ученого отделения Морского Технического Комитета.
7 декабря 1873 года Зеленой избран почетным членом Академии наук. Специализация: астроном, специалист по морскому делу.
С 1874 года - член Главного морского суда, в 1877 году произведен в адмиралы флота.
В 1881-1891 гг. - председатель Главного военно-морского суда. С 1891 года в отставке.
Последние годы жизни С. Зеленой состоял почетным членом Николаевской Морской Академии и морского технического комитета, Императорского Российского географического общества (ИРГО), действительный член астрономического общества. Полезные труды его были отмечены многими высокими наградами отечества: орденами Св. Александра Невского с бриллиантами, Св. Владимира 1-й степени, Белого Орла, Св. Анны 1-й степени, Св. Станислава 1-й степени .
Умер С.И. Зеленой 28 мая (9 июня) 1892 года «в сознании исполненного долга перед Богом и Родиной». Похоронен на Смоленском православном кладбище.
Его именем назван мыс на о. Рыкачева в Карском море вблизи берега Харитона Лаптева в 1900 году.
Братья: Александр - адмирал, Иван (1811–1877) и Никандр (1829–1888) были генерал-майорами флота, а Нил — капитан 2-го ранга.
Дети: АЛЕКСАНДР (1839) - генерал-майор; КОНСТАНТИН (1843) служил во флоте; ИЛЬЯ (1851) состоял членом Таганрогского окружного суда.