Андрей Бабаев родился 27 декабря 1923 года в селе Мсмна Мартунинского района Нагорно-Карабахской автономной области Азербайджанской ССР. По национальности армянин. Начальное музыкальное образование получил в Шуше. В 1950 г. окончил Бакинскую консерваторию по классу композиции Кара Караева. В 1953 г. окончил аспирантуру Московской консерватории (руководитель Юрий Шапорин).
В 1939—1941 гг. работал помощником дирижёра оркестра азербайджанских народных инструментов Азербайджанского радио. В 1941—1945 гг. был художественным руководителем Ансамбля песни и пляски Бакинского гарнизона, в 1946—1947 гг. — руководителем Ансамбля сазисток Бакинской филармонии, 1947—1950 гг. — хормейстером Ансамбля песни и пляски той же филармонии. С 1950 года жил и работал в Москве.
Умер 21 октября 1964 года. Похоронен на Армянском кладбище в Москве.
Творческую деятельность начал в 1943 г. В 1961 г. написал оперу «Арцваберд» (Орлиная крепость) (авторы либретто З. Г. Вартанян и Г. М. Борян, а 1964 г. оперу — «Дядя Багдасар» (по одноименной пьесе А. Пароняна, авторы либретто З. Г. Вартанян и Г. М. Борян). Является автором кантат «Октябрь» (сл. А. Панченко, 1947), «Песня о Партии» (слова С. Городецкого, 1954), двух кантат для детей: на слова 3. Джабар-заде (1946), на слова И. Солтана (1947), а также «Слава земле трудовой» (слова А. Фатьянова). Также написал несколько симфоний, сюит, увертюры «Молодость» (1948), рапсодий, сюит, среди которых: «Концертная рапсодия» (1959), «Индийская фантазия» (1958), рапсодии «Фантазия» (1951), сюит «Баллада» (1947), «Чаргя». (1947) и других. Является автором музыки к спектаклям и фильмам и более 50 песен, включая «Я встретил девушку…», "Только у любимой… " и «Кюсюб Гедтин Ярым Меним».
Особой популярностью до сих пор пользуется песня Андрея Бабаева «Я встретил девушку», которая была написана для одноименного фильма, снятого в 1957-ом году на киностудии «Таджикфильм» режиссёром Рафаилом Яковлевичем Перельштейном. Песню в фильме (за кадром) исполнил Рауф Атакишиев. Первоначальный текст песни был написан на таджикском народным поэтом Таджикистана Мирзо Турсунзаде. Автором русского варианта текста песни является Габриэль Регистан. Песня написана в стиле классического армянского романса, хотя больше известна в звучании, которое придало ей исполнение наиболее известного её исполнителя Рашида Бейбутова. До сих пор песня продолжает звучать в исполнении звёзд российской эстрады, таких как Филипп Киркоров, Валерия, Марк Тишман, Нонна Гришаева) и др.