Друг детства императора Николая II. В 1885 году окончил Морское училище в звании мичмана, зачислен в гвардейский экипаж, и проходил службу на флоте. В 1886 году совершил кругосветное плавание на корвете «Рында». В 1890—1891 годы совершил плавание в Индию на собственной яхте «Тамара». В 1892 г. стал командиром миноносца «Ревель». В 1893 году в должности старшего лейтенанта совершил плавание в Северную Америку на фрегате «Дмитрий Донской» в составе эскадры посланной в Америку по случаю 400-летия открытия Нового Света. В 1894 году произведён в капитаны 2-го ранга. 25 июля того же года женился на Ксении Александровне, дочери Александра III.
С марта 1895 по июль 1896 года — старший офицер броненосца «Сисой Великий». С 1891 являлся инициатором и основателем издания первого в стране ежегодного справочника «Военные флоты», возглавлял его регулярный выход в свет до 1906 года.
В 1895 году представил Николаю II разработанную под его руководством программу усиления Российского флота на Тихом океане, в которой предсказывал, что в 1903—1904 начнётся война с Японией, после завершения японской судостроительной программы. Программа и связанные с нею вопросы были подвергнуты обсуждению, но не приняты, что привело к его отставке.
В 1898 вернулся на действительную службу на флот. С 31 января 1899 — старший офицер броненосца береговой обороны «Генерал-адмирал Апраксин». В 1901—1902 командовал черноморским эскадренным броненосцем «Ростислав». 1 января 1903 произведён в контр-адмиралы, назначен младшим флагманом флота Черноморского моря с зачислением в свиту его Величества.
С ноября 1902 года до октября 1905 года великий князь был первым и единственным руководителем (главноуправляющим) Главного управления торгового мореплавания и портов. Это ведомство, созданное по инициативе Александра Михайловича, было организовано из подразделений Министерства финансов (отдел торгового мореплавания, Совет по делам торгового мореплавания, Комитет по портовым делам) и Министерства путей сообщения (Отдел торговых портов). Как главноуправляющий отдельной частью, вел. кн. Александр Михайлович стал членом Комитета министров. В качестве министра великий князь столкнулся с скрытым, но сильным противодействием всех остальных министров, не желавших появления в своей среде протокольно не равного им и юридически безответственного члена императорской фамилии; кроме того, министры боялись дальнейшего появления новых ведомств, создаваемых специально под великих князей. В результате сильнейших аппаратных интриг Главное управление было преобразовано в отдел создаваемого Министерства торговли и промышленности, после чего великий князь отказался от управления ведомством, уже не соответствующим его высокому рангу.
Во время русско-японской войны 1904—1905 гг. руководил подготовкой и действиями вспомогательных крейсеров из пароходов Добровольного флота на вражеских коммуникациях, затем возглавил «Особый комитет по усилению военного флота на добровольные пожертвования». В 1905 г. принял командование отрядом новых минных крейсеров (эсминцев) Балтийского флота, построенных на собранные этим комитетом средства. Высказывался против посылки 2-й Тихоокеанской эскадры на Дальний Восток, считая её недостаточно сильной. Принял непосредственное участие в разработке программ воссоздания флота, стремился привлечь к решению этой задачи внимание органов государственного управления и общественности, выступал активным сторонником постройки качественно новых линейных кораблей. В 1909 году Александру Михайловичу было присвоено звание вице-адмирала.
Один из первых руководителей русской авиации, был инициатором создания офицерской авиационной школы под Севастополем в 1910, шеф Императорского ВВФ. Участвовал в Первой мировой войне.
После Февральской революции, когда из армии были удалены все Романовы, 22 марта 1917 был уволен от службы по прошению с мундиром.
В 1918 году, вместе с бывшей вдовствующей императрицей Марией Федоровной (своей тёщей, которая гостила у дочери и, таким образом, по случайности не попала в группы Романовых, подвергшихся казни) эмигрировал из Крыма; поселился во Франции.
Состоял почётным председателем Союза русских военных лётчиков, Парижской кают-компании, Объединения чинов гвардейского экипажа; участвовал в деятельности РОВС, покровительствовал Обществу помощи детям русской эмиграции, Национальным организациям русских разведчиков (НОРР) и русских скаутов (НОРС).
В эмиграции выпустил мемуары под названием «Книга воспоминаній», текст которых впервые был издан в Париже в 1933 году как приложение к журналу «Иллюстрированная Россія»; также автор изданных в Париже книг Votre ?me (1924), Se conna?tre (1927) и других.
Скончался 26 февраля 1933 года в Рокбрюне (департамент Приморские Альпы); похоронен на местном кладбище.
В 1894 г. в Петергофе женился на своей двоюродной племяннице Ксении Александровне, старшей дочери Александра III, родной сестре Николая II. Ксения Александровна умерла в Англии, в Wilderness House, Hampton Court, Middlesex, 20 апреля 1960 г.
Их дети:
Большинство ныне живущих Романовых являются потомками Александра Михайловича.
С 14 мая 1903 принял звание Почетного Командора Азовско-Донского Яхтъ-Клуба
Приложение к журналу «Иллюстрированная Россия», 1933 год.