Окончил Нижегородский кадетский корпус (1889), Михайловское артиллерийское училище (1892), Александровскую военно-юридическую академию (1900, с занесением фамилии за успехи в учёбе на золотую доску академии).
Служил во 2-й гренадёрской и 3-й полевой бригадах, Московском военно-окружном суде. В 1902 вышел в отставку в чине капитана. Жил в Калуге, работал помощником присяжного поверенного, затем присяжным поверенным. Был гласным и председателем Калужской городской думы, гласным Малоярославецкой уездной земской управы, почётным мировым судьёй. В 1906 один из создателей и (с ноября 1906) председатель Калужского губернского комитета Конституционно-демократической партии (Партии народной свободы).
В 1906 — член I Государственной думы от Калужской губернии, входил в состав комиссий по исследованию незакономерных действий должностных лиц и о запросах. Член кадетской фракции. В 1912—1913 член IV Государственной думы от Калужской губернии, входил в состав комиссии по запросам, член кадетской фракции, сложил депутатские полномочия.
Во время Первой мировой войны вернулся в армию, служил на Юго-Западном фронте, командовал 19-й ополченской батареей, с 1915 — подполковник. После Февральской революции 1917 активно занимался общественно-политической деятельностью, пытаясь объединить офицеров для борьбы с анархией. В мае 1917 был председателем офицерского съезда в Могилёве, на котором избран председателем Главного комитета Союза офицеров армии и флота. Сторонник военной диктатуры, Новосильцев сыграл значительную роль в подготовке и проведении выступления генерала Л. Г. Корнилова. После неудачи этой акции был арестован (29 августа 1917), содержался в тюрьмах Витебска и Быхова, освобождён 24 октября 1917.
Участвовал в создании Добровольческой армии и её Первом Кубанском («Ледяном») походе. Затем генерал М. В. Алексеев направил его в Москву с тайной миссией, во время которой Новосильцев встречался с представителями союзников, а также нелегальных антибольшевистских организаций «Правый центр» и «Национальный центр». Занимался вопросами финансирования Добровольческой армии. В 1918 был произведён в полковники. После возвращения на Юг России служил юрисконсультом технического совета при Военном управлении (1919—1920).
Эмигрант. В феврале 1920 вместе с частями Вооружённых сил Юга России эвакуировался из Новороссийска. Жил в Болгарии, затем в Югославии, некоторое время занимался оказанием помощи беженцам. Затем жил в Сараево, где работал на артиллерийском складе и был преподавателем кадетского корпуса, с 1922 возглавлял русскую колонию в этом городе. Был членом правления сараевского отделения Общества офицеров-артиллеристов в Югославии, членом Общества ревнителей военных знаний, секретарём парламентской группы. Мемуарист.