Член ЦК ВКП(б) (1939—1953), депутат Верховного Совета СССР 1 и 2-го созывов.
Родился в семье военнослужащего. Отец был капитаном царской армии, потомственным дворянином, мать - княжеских кровей, из уважаемого грузинского рода.
В 1913 году с золотой медалью окончил Тифлисскую гимназию и продолжил обучение на физико-математическом факультете Петербургского университета. В 1916 году призван в армию после окончания 3-го курса. В 1916—1917 гг. служба в императорской армии: юнкер Оренбургской школы прапорщиков, прапорщик запасного полка в Новочеркасске, прапорщик маршевой роты в Ровно, прапорщик 331-го Орского полка Юго-Западного фронта. Демобилизовался в марте 1918 года и уехал в Тифлис к родственникам.
В 1918—1921 гг. делопроизводитель и учитель Тифлисского училища для слепых, где мать была директором. С октября 1921 в органах ОГПУ: помощник уполномоченного Грузинского ЧК, уполномоченный экономического отдела ГПУ Грузии.
В 1926—1927 гг. — начальник экономического отдела ГПУ Грузии. В 1927—1929 гг. — начальник отдела информации, агитации и политического контроля ГПУ Грузии. В 1929—1931 гг. — начальник Секретно-оперативной части и заместитель председателя ГПУ Аджарской АССР. В мае — октябре 1931 года — начальник секретного отдела Закавказского ГПУ.
С 1931 года на партийной работе: помощник секретаря Закавказского крайкома ВКП(б), заведующий отделом советской торговли Закавказского крайкома ВКП(б), заведующий особым сектором ЦК КП(б) Грузии, заведующий промышленно-транспортным отделом ЦК КП(б) Грузии.
В сентябре 1938 года возвращается на работу в органы госбезопасности на должность заместителя начальника ГУГБ НКВД СССР.
В 1938—1941 гг. — первый заместитель наркома НКВД — начальник Главного управления государственной безопасности (ГУГБ). В 1940 г. входил в состав «тройки», занимавшейся вынесением смертных приговоров пленным польским офицерам, а также польским жандармам, тюремщикам, пограничникам и пр.(Катынский расстрел).
В период с 3 февраля 1941 года по 20 июля 1941 года и с 14 апреля 1943 г. по 7 мая 1946 г. — нарком (министр) госбезопасности СССР. Подписал указ о чистке тюрем Западной Украины от "врагов народа", в результате чего больше 10,000 человек было расстреляно в Львовской, Ровенской и других областях.
В период 1941—1943 гг. — первый заместитель наркома внутренних дел, комиссар государственной безопасности 1-го ранга.
В 1943—1944 гг. — возглавлял «Комиссию по предварительному расследованию так называемого Катынского дела» .
В 1946—1947 гг. — заместитель начальника Главного управления советского имущества за границей при Совете министров СССР. В 1947—1950 гг. — начальник Главного управления советского имущества за границей при Совете министров СССР по Австрии.
C 27 октября 1950 по 22 мая 1953 г. — министр государственного контроля СССР. 22 мая 1953 года решением Совмина СССР Меркулову предоставлен отпуск на четыре месяца по состоянию здоровья.
Арестован в связи с арестом Берии 18 сентября 1953 года (по другим данным в июле) Специальным судебным присутствием Верховного суда СССР вместе с Берией и другими 23 декабря 1953 приговорен к смертной казни. Расстрелян. Его кремировали и похоронили на Донском кладбище.
Во время Великой Отечественной войны В. Н. Меркулов под псевдонимом Всеволод Рокк написал пьесу «Инженер Сергеев», которая шла во многих театрах.
Указом Президиума Верховного Совета СССР от 31 декабря 1953 года лишен воинского (генерал армии), специального (комиссар государственной безопасности 1-го ранга) званий и государственных наград.