Выходец из аристократической и высокопоставленной семьи: его мать — внучка эрцгерцога Австрийского Иоганна Баптиста. Рос в Граце, учился музыке в Вене. Был виолончелистом в Венском симфоническом оркестре (1952—1969). В 1953 вместе с женой, скрипачкой Алисой Хоффельнер создал барочный ансамбль Concentus Musicus Wien. Помимо руководства и дирижирования, играл в нём на виолончели и виоле да гамба.
Дебютировал как оперный дирижёр в миланском театре Ла Скала («Возвращение Улисса на родину» Монтеверди, 1970).
В 1971—1990 вместе с Густавом Леонхардтом записал все баховские кантаты. Работает также с другими европейскими оркестрами, включая Концертгебау.
Автор музыковедческих публикаций (русские переводы собраны в книге «Мои современники Бах, Моцарт, Монтеверди», М., 2005).
Жена — скрипачка Алиса Арнонкур. Дочь — флейтистка и оперная певица Элизабет фон Магнус.
В его репертуаре Пёрселл, Вивальди, Бах,Шуман, Гендель, Монтеверди, Рамо, Моцарт, Шуберт, Бетховен, Вагнер, Верди, Оффенбах, Брамс, Дворжак, Брукнер, Берг, Барток.
Премия Роберта Шумана (1997), Премия Грэмми (2001), Премия Киото (2005), Лейпцигская Баховская медаль (2007). Почетный доктор зальцбургского Моцартеума (2008).
По результатам опроса, проведённого в ноябре 2010 года британским журналом о классической музыке BBC Music Magazine среди ста дирижёров из разных стран, среди которых такие музыканты, как Колин Дэвис (Великобритания), Валерий Гергиев (Россия), Густаво Дудамель (Венесуэла), Марис Янсонс (Латвия), Арнонкур занял пятое место в списке из двадцати наиболее выдающихся дирижёров всех времён.
Сыграл роль Леопольда, князя Анхальтского в фильме Штрауба Хроника Анны Магдалены Бах (1967).