Окончив Киевский политехнический институт в 1916 году, работал на крупных стройках СССР. Проектирует и руководит строительством 15 многопролетных железобетонных и арковых мостов в УССР, в том числе в районах Днепропетровской области, работает в спецуправлении по шлюзованию Днепра. По его проектам и под его руководством сооружены арковый железобетонный мост в парке им. Глобы, корпуса швейной и обувной фабрик в Днепропетровске. При его непосредственной помощи создавалась индустриальная база Днепропетровской гидроэлектростанции, организовано промышленное строительство предприятия Днепросталь.
Работал преподавателем Катеринославского вечернего рабочего строительного техникума. С 1930 года работает в Днепропетровском строительном институте: заместителем директора по учебной и научной работе, заведующим кафедр организации работ, строительного производства. С 1932 г. — член редакционного совета редакционно-издательской базы «Госстройтехиздат». Работает научным руководителем Научно-исследовательского сектора института. В 1937—1938 гг. исполнял обязанности директора института, затем — заместитель директора.
Проф. А. А. Гармаш работал в области организации и технологии строительного производства, в частности работал над проблемой ликвидации сезонности строительных работ: в 1931 году издает книгу «Строительные работы зимой», в 1933 году начинает экспериментальные работы по электроподогреву бетона. Материалы и результаты этих исследований представлены в книге «Электроподогрев бетона». Важным вкладом в технологию строительного производства стал также его труд «Организация и механизация транспорта на строительных работах» (1934). В своей диссертации «Доменные шлаки и их рациональное использование» А. А. Гармаш впервые обосновал теорию строительного производства. Он впервые дал теоретическое обоснование для расчета и проектирования строительных процессов с помощью математических методов (1939).