Родился 17 марта 1709 года в деревне Лемеши (на сегодня Козелецкий район) Черниговской губернии. Сын простого украинского казака Григория Яковлевича Розума (ум. 1730) (розум по-украински — ум; так прозвали Григория за то, что он в пьяном виде любил произносить поговорку: «що то за голова, що то за розум!») и Натальи Демьяновны Демешко (Разумовской). В детстве был обучен грамоте, бежал от отца в соседнее село Чемер, где жил у дьячка и пел на церковном клиросе. Здесь в 1731 году был замечен полковником Вишневецким, который набирал певчих для Придворного хора и, обратив внимание на молодого красивого певчего с прекрасным голосом, взял юношу с собой в Петербург. Однако уже вскоре под именем Алексея Григорьева он оказался в списке двора цесаревны Елизаветы Петровны. Екатерина II впоследствии писала, что Алексей был одним из красивейших мужчин, каких она встречала в жизни, и это не прошло мимо внимания Елизаветы.
Уже в 1730-е годы Разумовский, как его стали со временем называть, стал фаворитом цесаревны, получив для начала должность управляющего её имениями, затем чин камер-юнкера и сделавшись полновластным хозяином её двора. К нему обращались с просьбами знатные вельможи и он, по-видимому, не без успеха использовал своё влияние на Елизавету, однако при этом оставаясь человеком весёлым, добродушным и бесхитростным.
После переворота 1741 года бывший певчий превратился в генерал-поручика и действительного камергера. Спустя ещё короткое время, в день коронации Елизаветы Петровны Разумовский стал кавалером ордена Андрея Первозванного, обер-егермейстером, подполковником лейб-гвардии Конного полка, капитан-поручиком лейб-кампании и владельцем сотен крестьянских душ. В 1742 году в подмосковном селе Перово, как принято считать, состоялось тайное венчание императрицы с Алексеем Григорьевичем.
Обладая огромной, практически неограниченной властью и став одним из богатейших людей России (в 1744 он получил ещё и графское достоинство, а в 1756 году — звание генерал-фельдмаршала), Разумовский оставался скромным, набожным человеком, старался не вмешиваться в придворные интриги и держаться в стороне от большой политики. К своему стремительному возвышению он относился с юмором и лишь иногда, во хмелю, проявлял буйный нрав. Был Разумовский и заботливым сыном, не забывал многочисленную украинскую родню, да и вообще родную Украину. По-видимому, именно благодаря Разумовскому в царствование Елизаветы Петровны украинцам удалось добиться некоторых привилегий и, в частности, восстановления гетманства. С конца 1740-х годов с приближением к императрице Ивана Шувалова влияние Разумовского несколько упало.
Существует несколько легенд о детях, якобы родившихся от брака Разумовского и императрицы Елизаветы Петровны, однако ни одна из них не подтверждена документально. (См. Княжна Тараканова).
После воцарения Екатерины II новая императрица послала Михаила Воронцова выяснить, действительно ли Разумовский был обвенчан с Елизаветой, но тот на глазах посланца государыни сжёг какие-то документы.
Родственники по материнской линии: