Прилагал усилия к тому, чтобы в предвидении войны с Германией воздействовать на правительство в вопросе перевооружения российской артиллерии; его старания в этом деле не увенчались успехом. Являлся близким другом императора Николая II в течение многих лет и был в Ставке до последних дней существования Российской империи.
В начале апреля 1918 года выслан большевиками из Петрограда в Вятку, в мае 1918 года перевезён в Екатеринбург, а затем в Алапаевск. В ночь на 5 (18) июля 1918 вместе с другими членами дома Романовых вывезен за город, оказал сопротивление и был застрелен. Его тело вместе с ещё живыми алапаевскими узниками из рода Романовых было сброшено в одну из заброшенных шахт железного рудника Нижняя Селимская. Когда в город вошли белогвардейские войска тела расстрелянных подняли на поверхность, в руке Сергея Михайловича был зажат маленький золотой медальон с портретом Матильды Кшесинской и надписью «Маля».
8 июня 2009 года Генеральная прокуратура России посмертно реабилитировала великого князя Сергея Михайловича.
Женатым Сергей Михайлович никогда не был. Избегал принимать участие в светских торжествах и в высоких кругах прослыл как человек замкнутый и молчаливый. Был прост в обращении с простыми людьми и доступен всем.