Выпускник Московского университета по медицинскому факультету.
Владелец и директор акклиматизационного плодового сада в Москве.
Преподавал плодоводство в земледельческой школе Московского общества сельского хозяйства.
Автор книги «Доходное плодоводство», выдержавшей шесть изданий (1891—1904), сотрудничал с журналом «Русское садоводство». После смерти его дело продолжила его вдова, М. И. Грелль. От работ Грелля отталкивался в своих ранних опытах И. В. Мичурин.
В честь А. К. Грелля его учеником, красноярским садоводом А. И. Олониченко, назван сорт яблонь «Непобедимая Грелля».