Родился в 1936 году в Плавске Тульской области семье Веры Афанасьевны и Ильи Наумовича Комеч. Фамилия Комеч — караимская. В 1954 году окончил московскую среднюю школу № 101 с серебряной медалью. В детстве А. Комеч проявлял способности к музыке, однако его друг М. Мейер уговорил его по окончании школы поступить на отделение истории и теории искусства исторического факультета МГУ им. М. В. Ломоносова, которое Комеч окончил в 1959 году. Параллельно с обучением в МГУ в 1954—1957 годах Комеч обучался на теоретическом отделении Музыкального училища при Московской консерватории им. П. И. Чайковского, однако оставил училище после третьего курса, чтобы сосредоточиться на учёбе на историческом факультете. После окончания МГУ в 1959 году пришел на работу в Государственный научно-исследовательский музей архитектуры им. А.В. Щусева, затем перешел в Научно-методический совет по охране памятников культуры Академии наук СССР. В 1960—1964 и в 1966—1979 годах преподавал на историческом факультете МГУ. С 1969 г. работал научным сотрудником, а с 1989 года занимал должность заведующего сектором истории древнерусского искусства Государственного института искусствознания министерства культуры. В 1972 году защитил кандидатскую (научный руководитель В. Н. Лазарев), а в 1989 году — докторскую диссертацию. Начиная с 1982 года являлся научным редактором восьмитомной серии книг «Памятники архитектуры Москвы». В 1990—1991 годах работал начальником Отдела охраны культурного наследия министерства культуры СССР. С 1991 по 1993 г. — директор Государственного научно-исследовательского музея реставрации министерства культуры России. С 1994 г. — директор Государственного института искусствознания. Член Международного научного комитета ICOMOS по сохранению наследия XX века. В 1991—1995 годах А. И. Комеч являлся представителем России в Комитете по культурному наследию Совета Европы. Незадолго до ухода из жизни в связи с тяжелой болезнью оставил пост директора, сохранив звание научного руководителя института.
А. И. Комеч выступал с последовательной критикой деятельности Правительства Москвы по сносу и искажению исторической застройки и уничтожению культурного наследия. В июле 2004 года Ю. М. Лужковым против А. И. Комеча и телеканала РТР был подан иск о защите деловой репутации, поводом которому стало, в частности, высказывание Комеча в программе «Вести +», касавшееся правовых оснований участия столичного правительства в восстановлении сгоревшего здания Манежа. Суд удовлетворил иск в отношении телекомпании и отказал в его удовлетворении в отношении А. И. Комеча.
А. И. Комеч является автором более 80 трудов по истории византийской и древнерусской архитектуры Х — XV столетий, истории и теории реставрации памятников архитектуры. В 1994—2002 годах А. И. Комеч внёс значительный вклад в разработку проекта Федерального закона «Об объектах культурного наследия (памятниках истории и культуры) народов Российской Федерации».
Умер 28 февраля 2007 года. Похоронен на Ваганьковском кладбище. Памяти А. И. Комеча посвящен альбом «Московское архитектурное наследие: точка невозврата. 2004—2007», рассказывающий об утратах, которые понесла архитектура Москвы за несколько последних лет.