Родился в семье крестьянина. По национальности армянин.
С 1925 года служил в Красной Армии. Образование получил в Закавказской Военно-пехотной школе (1929) и Военной академии Генштаба (1948). С 1929 года, после окончания военно-пехотной школы, служил в Закавказском военном округе командиром взвода 4-го Кавказского стрелкового полка, участвовал в боях с контрреволюционными бандами, был ранен. Позднее избран секретарём партбюро отдельного батальона, назначен командиром роты, батальона, помощником начальника штаба полка и начальником отделения штаба пункта ПВО в Баку Азербайджан. С октября 1938 — помощник командира пулемётного полка в Ленинградском военном округе.
Участник Советско-финской войны 1939—1940.
С октября 1940 года - командир стрелкового полка в 165-й стрелковой дивизии СКВО, затем - начальник оперативного отдела штаба 19-й армии генерал-лейтенанта Конева И.С., одной из "глубинных" армий, формировавшихся и выдвигавшихся к западной границе.
На фронтах Великой Отечественной войны — с июля 1941 г. Сначала командовал 395-м стрелковым полком 127-й стрелковой дивизии (до апреля 1942), ставшим с 18 сентярбя 1941 года 1-м гвардейским стрелковым полком 2-й гвардейской стрелковой дивизии, с сентября 1942 — командир 3-й механизированной бригады (с октября 1943 — 20-я гвардейская), ставшей к концу войны 20-й гвардейской механизированной Залещинской ордена Ленина, Краснознаменной, орденов Суворова, Кутузова, Богдана Хмельницкого бригадов - одной из наиболее отличившихся воинских частей вооруженных сил.
18 августа 1944 года, командуя группой бригад 1-й гвардейской танковой армии, А.Х.Бабаджанян был тяжело ранен.
С 25 августа 1944 по май 1945 — командир 11-го гвардейского Прикарпатско-Берлинского Краснознаменного, ордена Суворова танкового корпуса 1-й танковой армии, сменив в должности генерала А.Л. Гетмана
За годы Великой Отечественной войны войска под командованием А. Х. Бабаджаняна 15 раз упоминались в приказах Верховного Главнокомандующего СССР И. В. Сталина, по этому показателю он является одним из 30 наиболее выдающихся командиров оперативно-тактического звена в вооруженных силах СССР.
В 1949—1950 годах — начальник штаба армии, командующий армией, в 1950—1959 гг. — 1-й заместитель командующего войсками Прикарпатского военного округа.
в 1959—1967 годах — командующий войсками Одесского военного округа, в 1967—1969 гг. — начальник Военной академии бронетанковых войск им. Маршала Советского Союза Малиновского, в октябре 1967 года присвоено воинское звание маршал бронетанковых войск. В 1969—1977 годах — начальник танковых войск Советской Армии. С 29 апреля 1975 года — главный маршал бронетанковых войск.
Амазасп Хачатурович Бабаджанян умер 1 ноября 1977 года в Москве, похоронён на Новодевичьем кладбище .