Маттеус родился в Эрлангене, Бавария. В начале своей карьеры он играл на позиции полузащитника, прежде чем переключиться на позицию либеро.
Он участвовал в пяти чемпионатах мира (1982, 1986, 1990, 1994, 1998) — больше, чем какой-либо другой полевой игрок, и по-прежнему является рекордсменом по количеству матчей, сыгранных в финальной части чемпионата (25 игр). За национальную сборную он сыграл 150 матчей. Он выиграл чемпионат Европы 1980 года, а также участвовал в чемпионатах 1984, 1988 и 2000 годов. Маттеус входит в ФИФА 100 — список из 125-ти величайших футболистов, составленный Пеле.
Его профессиональная карьера началась в 1979 году в клубе «Боруссия (Мёнхенгладбах)», за который он играл до 1984 года. Маттеус также играл за «Баварию» (1984—1988 и 1992—2000), «Интер» (1988—1992) (выиграв скудетто в 1989 году) и «Метростарз» в 2000.
21 сентября 2010 года назначен на пост главного тренера сборной Болгарии. Контракт подписан по схеме «1+2». 19 сентября 2011 года немецкий наставник был уволен со своего поста после двух подряд поражений с общим счётом 1:6.