Родился в Чите в семье военнослужащих. В 1952 году семья переехала в Ленинград. Окончил среднюю школу в Ленинграде, Ленинградский электротехнический институт связи имени М. А. Бонч-Бруевича в 1973 году. Работал в Центральном НИИ связи.
С сентября 1974 года — в органах КГБ СССР. Окончил Высшие курсы КГБ в Минске в 1975 г. С 1975 года служил в Управлении КГБ СССР по Ленинградской области на оперативных и руководящих должностях.
С 1997 г. — начальник Кингисеппского городского отдела Управления ФСБ Российской Федерации по Ленинградской области. Затем работал в центральном аппарате Федеральной службы безопасности Российской Федерации в Москве, был начальником Управления собственной безопасности ФСБ России.
С июля 2000 года — заместитель директора Федеральной службы охраны Российской Федерации.
С января 2001 года — начальник Управления ФСБ по городу Санкт-Петербургу и Ленинградской области.
С июня 2003 года — первый заместитель директора Федеральной службы безопасности Российской Федерации.
20 декабря 2006 года указом Президента России В.В. Путина С.М. Смирнову присвоено воинское звание генерал армии.