Вырос в семье профессора Военно-медицинской академии. В 1894 году окончил Институт гражданских инженеров.
В 1897—1900 — городской архитектор в Самаре. Строит памятники в русском стиле (Губернская земская управа) и в стиле раннего модерна (дом Курлиной).
Самарская карьера Зеленко складывается удачно, но в 1900 он переезжает в Москву, работает с Ф. О. Шехтелем над павильонами выставки в Глазго, организует вместе со своим сверстником И. А. Фоминым Женские архитектурные курсы.
В 1902—1903 строит свою первую московскую работу — «сказочный» доходный дом на Тверском бульваре, 12 (дом утратил первоначальный декор). Участвует в проектировании неоклассического Коммерческого училища (нынешняя РЭА им. Г. В. Плеханова).
В 1903—1904 Зеленко путешествует по США. Там в его мировоззрении происходит перелом — Зеленко принимает решение посвятить жизнь просвещению. Вернувшись в Россию, Зеленко сблизился с кружком педагогов С. Т. Шацкого, участвовал в первом летнем лагере-коммуне для детей рабочих в Щёлкове (1905). В 1906—1907 Зеленко строит на деньги Н. А. Второва в Вадковском переулке Москвы Детский клуб общества Сетльмент — редкий для Москвы памятник северного модерна. Здание клуба, построенное как «обитаемая скульптура», лишённая внешних украшений, сравнивается критиками с работами Гауди и Хундертвассера. Она сохранилось, однако внешние кованые светильники утрачены, а первоначальную отделку «под шубу» сменила гладкая штукатурка.
Тогдашний Вадковский переулок, сегодня входящий в Центральный административный округ, был далёкой рабочей окраиной к северо-западу от складывавшегося культурного центра Миусской площади. Сетльмент совмещал функции детского сада для детей рабочих, начальной школы и ремесленного училища. Лицензия на образовательную деятельность была оформлена лично на «А. У. Зеленко, архитектора». Ученики Сетльмент были организованы в группы по 12 человек (мальчики и девочки раздельно); каждая группа самостоятельно планировала учебную программу и вырабатывала собственные правила поведения, а всего в здании обучалось до двухсот детей.
Зеленко и Шацкий воздерживались от политической деятельности, однако 1 мая 1908 Сетльмент был разгромлен полицией в связи с использованием детского соуправления, в чём усмотрели "пропаганду социалистических идей".
Отсидев два месяца ареста, Зеленко опять бежал в США, где выстроил экспрессионистскую виллу в Сакраменто.
Вернувшись в Москву, в 1910—1913 Зеленко выстроил в Сокольниках фантастическую дачу Пфеффер (не сохранилась) и детский сад на Большой Пироговской улице (совместно с И. П. Кондаковым, перестроен до неузнаваемости). Проектировал типовые народные дома, доходные дома и дачи. Единственная послереволюционная работа Зеленко в архитектуре — Дом сотрудников ВЦИК на Спиридоновке, 26.
Дом Лоськова (Посольство Сирии), 1906, отделка стен утрачена
Детский сад на Большой Пироговской, 1910-1912, перестроен
Особняк Курлиной в Самаре, построенный в 1903 году