Родился в деревне Валяве Городищенской волости Черкасского уезда Киевской губернии в состоятельный семье немца-учителя; мать была местной крестьянкой-украинкой.
Родители рано разошлись, до девяти лет рос и воспитывался в деревне с матерью и дедом. Затем учился в 4-й Киевской гимназии. В годы Первой мировой войны потерял отца, мать вторично вышла замуж, отчим выгнал 15-летнего Александра из дома. Чтобы оплачивать учёбу в гимназии, давал уроки, брал сдельную переписку из управы, колол дрова, разгружал баржи на Днепре, работал лодочником, в артели лесорубов в притоках Днепра… Тем не менее несколько раз был вынужден бросить учёбу.
До февраля 1917 года никакого участия в революционном движении не принимал; после Февральской революции, будучи учеником последнего класса гимназии, вступил в кружок гимназистов, изучавших социалистическую литературу. В конце апреля 1918 года, когда немцы проводили массовые аресты «неблагонадёжных» киевлян, по доносу сверстников весь кружок был арестован; Бармину удалось бежать.
В 1919 году он учился в Киевском университете, но бросил его и вступил в Красную Армию; в том же году вступил в РКП(б). В 1920 году учился на командных курсах, в 1923 году окончил 3 курса Военной академии (в 1920—1921 годах учился на восточном отделении Военной Академии). В 1921 году был уполномоченным РВС Туркестанского фронта; затем консулом в Карши (Бухара).
В годы внутрипартийной борьбы, сочувствуя Левой оппозиции, в первую очередь лично Л. Д. Троцкому, никогда в её рядах не состоял.
В 1923—1925 годах — управляющий генеральным консульством, генеральный консул СССР в Гиляне (Персия). Занимал крупные дипломатические посты, в том числе генерального консула в Реште (Иран). С 1935 года был 1-м секретарём полпредства в Афганистане. Затем во Франции был резидентом Главного разведывательного управления, в 1937 году — поверенным в делах СССР в Греции.
В начале 1937 года Бармин провёл несколько месяцев в Москве, где узнал о том, как фабрикуются открытые процессы против оппозиционеров. Вернувшись в Грецию, он поделился с некоторыми сослуживцами своими тревогами и очень скоро по ряду признаков он почувствовал, что содержание этих бесед уже известно в Москве. Сообщив телеграммой в Наркомат иностранных дел, что решил взять отпуск, Бармин 18 июля 1937 года выехал во Францию.
Он обратился к правительству Франции с просьбой о политическом убежище и получил его. Выступал в печати со статьями, разоблачающими политику И. В. Сталина, призывал западные страны «спасти советских дипломатов».
С 1940 года жил в США. В годы Второй мировой войны служил в армии США рядовым.
С 1953 года заведовал отделом Русской службы радиостанции «Голос Америки».
Умер в 1987 году.