Аркадий Григорьевич родился 15 (27) января 1896 года в селе Журавлиха (ныне Починковского района Нижегородской области). Сын иконописца. Детские годы провёл в селе Вареж под Павловым. Окончил инженерно-строительный факультет МВТУ в 1930 году. Ранние работы относятся к конструктивизму, например, здание почтамта в Харькове, однако в 1929 году (до 1932 г.) выступает как один из создателей организации ВОПРА, выступавшей против представителей конструктивизма.
Председатель Комитета по делам архитектуры при Совете Министров СССР (1943—47).
Президент Академии архитектуры СССР в 1950—1955.
Инициатор поточно-скоростного строительства жилых домов, применённого в Москве на улицах Горького (1937—1939); Ленинском проспекте, (1939—1940); Большой Полянке (1940); набережных Москвы-реки (1940—1941); Новинском бульваре (1939—1941).
Среди других работ Мордвинова — гостиница «Украина» совместно с В. К. Олтаржевским и др., 1957.
Аркадий Григорьевич умер 23 июня 1964 года. Похоронен в Москве на Новодевичьем кладбище (участок № 6).