Родился в Киеве. Настоящая фамилия — Мезько (фамилию Оглоблин получил от отчима).
Обучался в Третьей киевской мужской гимназии, с 1917 года — на историко-филологическом факультете Киевского университета. По его окончании работал учителем украинского языка и украиноведения в гимназии под Киевом, а с марта 1920-го — преподавал в Киевском рабоче-крестьянском университете.
3 апреля 1922 года он получил профессорское звание, а спустя четыре года защитил диссертацию на степень доктора исторических наук и тогда же начал сотрудничать со Всеукраинской академией наук.
В годы работы в Киевском университете был знаком с К. Ф. Штеппой, в сотрудничестве с которым подготовил ряд публикаций, с рядом других известных украинских историков. Основал так называемую новую революционную школу в истории, которая противопоставляла себя школе М. С. Грушевского. Несмотря на данное противостояние, по некоторым вопросам он сходился с Грушевским, в частности, по вопросу о достоверности «Истории русов». За поддержку «Истории русов» неоднократно подвергался критике, в конце 1930-го был арестован, но вскоре освобождён. Позднее снова преподавал в Киевском и Одесском университетах.
В 1939—1941 ВАК рассматривал вопрос о лишении его степени доктора исторических наук ввиду «сомнительной позиции», однако в конце концов степень была подтверждена.
Во время нацистской оккупации 21 сентября 1941 стал первым начальником городской управы Киева.
По свидетельству очевидца — еврейки И. Минкиной, пытался заступаться перед немцами за неё поскольку они были ранее знакомы, однако военный комендант Киева К. Эберхард указал ему, что «…вопрос о евреях подлежит исключительно компетенции немцев и они его разрешают как им угодно» . По утверждению киевского историка Александра Каревина, Оглоблин подготовил списки киевских евреев для массовых казней, [уточнить] удобное место для расстрелов — Бабий Яр — подсказал нацистам тоже он. Этот же тезис выдвигает М. Коваль, В. Нахманович считает его не подкреплённым документально.
В течение нескольких дней еврейский вопрос в Киеве был «окончательно решён»: в октябре 1941 в Бабьем Яру немцы казнили около 40000 евреев, в том числе детей от смешанных браков; позднее там же погибло ещё около 100000 представителей разных национальностей. Как пишет Маркус Айкель киевской управе, возглавляемой Оглоблиным, была передана некая часть имущества убитых евреев.
Поощрял деятельность украинских национальных организаций, издание литературы на украинском языке (журнал «Литавры» — редактор Олена Телига, и др.), входил в Украинский национальный совет под председательством Миколы Величковского. За излишний «украинский национализм» подвергался критике со стороны коменданта Киева, поэтому всего через месяц после назначения подал в отставку и 25 октября 1941 ушёл с должности (новым бургомистром стал его заместитель В. П. Багазий). Чтобы избежать ареста, некоторое время находился в психиатрической лечебнице. По другим сведениям, немцы обнаружили, что в возглавляемой бургомистром городской управе производятся махинации с имуществом расстрелянных евреев. Вызванный на допрос в гестапо Александр Петрович со страху упал в обморок. Убивать его не стали, а просто уволили.
По протекции своего коллеги-историка К. Ф. Штеппы, ставшего ректором Киевского университета, получил в нём профессорскую должность. В 1942 работал директором Музея-архива переходного периода, собирал данные о разрушении большевиками исторических памятников в 1930-е гг. На основании собранных им и коллегами материалов немецкие власти открыли фотовыставку. После того, как выставка выполнила свою пропагандистскую миссию, в том же году деятельность музея была немцами свёрнута как «бесполезная».
В 1943, незадолго до освобождения Киева советскими войсками, бежал вместе с оккупантами во Львов, с 1944 в Прагу, где преподавал в Украинском свободном университете. В 1945 университет переместился в Мюнхен, туда же переехал и Оглоблин, сохранив должность профессора.
В 1951 переехал в США, где принимал активное участие в деятельности местной украинской общины. Издал в США ряд монографий по украинской истории. Среди его учеников — историки Любомир Винар, Орест Субтельный и Семён Пидгайный. В то же время, прекратились его отношения с К. Ф. Штеппой — Оглоблин даже не упоминает его в своём справочнике по историографии Украины.