Происходил из старинного ирландского католического рода, выселившегося во Францию после торжества Вильгельма III. По окончании курса в иезуитской коллегии и в военной Сен-Сирской школе, Мак-Магон поступил в кавалерию и одинаково усердно служил всем режимам.
В 1830-х годах он был командирован в Алжир, где 12 июня 1848 года был произведен в чин марешаль де камп (фр. marechal de camp — приблизительно соответствует чину генерал-майора). А уже 16 июля 1852 года получил чин дивизионного генерала.
В августе — сентябре 1855 года, командуя 1-й пехотной дивизией II армейского корпуса Восточной армии в Крыму, взял Малахов курган.
Когда после покушения Орсини (1858 год) правительство внесло в палаты проект закона о чрезвычайных мерах охраны, Мак-Магон был единственным сенатором, подавшим голос против этого проекта. В 1858 году был назначен Главнокомандующим всех морских и сухопутных сил в Алжире.
В 1859 году ввиду войны с Австрией он получил командование корпусом; на Маджентском поле он своевременным нападением на правый фланг австрийцев спас императора от опасности плена и одержал победу, являющуюся его главным военным подвигом; на самом поле битвы он сделан маршалом и герцогом Маджентским. Он отличился также в битве при Сольферино.
В 1861 году он был чрезвычайным послом Наполеона III в Кёнигсберге, при короновании Вильгельма I.
1 сентября 1864 года был вновь поставлен во главе управления Алжира, где и оставался до 17 июля 1870 года. В крайне незавидном положении он нашёл эту провинцию и в ещё худшем оставил её. Он действовал в духе клерикализма и милитаризма, не обнаруживая инициативы, а лишь добросовестно исполняя приказания свыше; во время голода, сильно опустошившего Алжир, Мак-Магон ничего не сделал для борьбы с бедствием. Своим неумелым управлением он подготовил общее и опасное восстание туземцев, но франко-прусская война принудила правительство отозвать его из Алжира, и ответственность за восстание и необходимость усмирять его пала на других.
Во время войны 1870 года имя Мак-Магона связано с двумя страшными поражениями французской армии: при Верте, где Мак-Магон потерял половину своего I армейского корпуса, и при Седане. Мак-Магон, как он утверждал впоследствии, сознавал неразумность сосредоточения армии около Седана, но у него не хватило независимости, чтобы отстоять своё мнение. Раненый, утром 1 сентября Мак-Магон передал командование генералу Дюкро, потом Вимпфену и таким образом спасся от позора капитуляции, но не от плена.
По возвращении во Францию 15 марта 1871 года, Мак-Магон 5 апреля был назначен Главнокомандующим Версальской армии, командовал правительственными войсками во время осады Парижа, захваченного коммунарами.
Во время президентства Тьера роль Мак-Магона изменилась: до сих пор это был лишь солдат, теперь он стал политиком, на имени которого сошлись три ненавидевшие друг друга монархические партии, когда они искали преемника Тьеру. 24 мая 1873 года Мак-Магон был избран президентом республики. Началась реакция против всех мероприятий Тьера; префекты и вообще чиновники увольнялись массами за республиканские убеждения; стеснена была свобода сходок, клубов и проч. Вместе с тем, под покровительством президента велись интриги монархистов для восстановления монархии, разбившиеся лишь о их собственные раздоры и упрямство графа Шамбора; Мак-Магон не соглашался только пожертвовать трёхцветным знаменем. В ноябре 1873 года полномочия его были продолжены на семь лет.
В 1875 году Мак-Магон был решительным противником конституции в республиканском духе, которая, тем не менее, была принята Национальным собранием. В 1877 году Мак-Магон согласился на образование кабинета Брольи, враждебного большинству палаты, и допустил сильное правительственное давление на выборах, но оно не увенчалось успехом: хотя в новой палате оказалось довольно значительное меньшинство, из монархистов и особенной группы «макмагонистов», но большинство было всё же республиканским. После 2-летней борьбы с палатой (см. Франция) Мак-Магон сложил с себя власть (30 января 1879). С тех пор он жил частным человеком, в своём замке близ Монтаржи; в это время он выпустил книгу: «L’armee de Versailles, rapport officiel» (Пар., 1891).