Родился в семье попечителя учебного округа. Происходил из старинного дворянского рода Ширинских-Шихматовых.
Окончил Императорское училище правоведения, после чего в мае 1884 в чине коллежского секретаря служил чиновником особых поручений при Эстляндском губернаторе, затем советником губернского правления.
В 1889 году был командирован по Высочайшему повелению в Вену, где он представлял ведомство православного исповедания при закладке храма Российского посольства. Обратил на себя внимание обер-прокурора Святейшего Синода Константина Победоносцева, который назначил его помощником юрисконсульта при обер-прокуроре.
В 1894 году назначен прокурором Московской конторы Священного синода и управляющим всеми недвижимыми имуществами, принадлежавшими Священному синоду в Москве и ее окрестностях. Прокурор Синодальной конторы являлся одновременно и Управляющим Синодальным училищем, и Главным начальником Синодального хора (бывшего преемником патриаршего хора досинодального периода), под его управлением находились «Патриаршая Библиотека» и «Патриаршая Ризница».
С 1896 году — камергер Высочайшего Двора Его Императорского Величества.
С мая 1900 году — действительный статский советник.
В ноябре 1902 года Ширинскому-Шихматову и архимандриту Суздальского Спасо-Евфимьева монастыря Серафиму (Чичагову) было поручено руководство подготовкой торжеств по прославлению преподобного Серафима Саровского, состоявшемуся в 1903 году.
С 1903 года — гофмейстер.
С 12 декабря 1903 по октябрь 1904 года — Тверской губернатор.
В мае 1905 — товарищ обер-прокурора Синода в апреле-июле 1906 — обер-прокурор.
С 1906 года член Государственного совета.
В 1907—1912 годах — председатель «Бюро для взаимной осведомленности и совместных действий правых деятелей».
В 1915 году основал Общество Возрождения Художественной Руси.
В 1915—1917 годах — член кружка Александра Римского-Корсакова, объединявшего сторонников более жёсткого правительственного курса по борьбе с надвигавшейся революцией.
C осени 1916 года — председатель Особого комитета для борьбы со злоупотреблениями, порождёнными тыловой обстановкой.
В первые дни Февральской революции князь был подвергнут недолгому аресту.
После октябрьского переворота переехал в Москву, где сразу же включился в тайную монархическую работу и пытался организовать спасение Царской Семьи.
1 сентября 1918 году вместе с семьёй по чужим документам выехал из Москвы, бежал из страны.
В 1918 году избран председателем Палестинского общества, оставаясь им до кончины.
В начале 1921 года он обосновался в Германии. В том же году избран одним из трёх членов руководящего органа монархической эмиграции Высшего Монархического Совета. Принимал участие в работе Всезарубежного Собора Православной Церкви в Сремских Карловцах.
В 1924 году переехал в Париж.
В 1928 году был председателем президиума монархического съезда в Париже.
Скончался 22 декабря 1930 в пригороде Парижа Севре.