Из дворян, православный. Имел в собственности родовое имение «Романцево» в Можайском уезде Московской губернии. Был председателем Можайской уездной земской управы, предводителем можайского уездного дворянства. В 1913 г. входил в делегацию московского дворянства на торжествах по случаю 300-летия Дома Романовых. В 1916 г. вошёл в состав Госсовета, к присутствию не назначался.
Один из учредителей «Общества ревнителей русского исторического просвещения в память императора Александра III».
Был личным другом С.Д.Шереметева, флигель-адъютанта императора Александра III. Варженевский часто упоминается в дневниках Шереметева, сохранилась переписка между Варженевским и Шереметевым.