Выдающийся немецкий нападающий, провёл большую часть своей карьеры в не самых сильных клубах — «Байере» Леверкузен, римской «Роме». Тем не менее, стал обладателем Кубка Чемпионов 1993 в составе марсельского «Олимпика».
Победитель чемпионата мира 1990 года в Италии в составе национальной сборной Германии.
Лучший футболист бундеслиги 1983 года.
С 2 июля 2000 по 24 июня 2004 года занимал должность главного тренера национальной сборной Германии. Ушёл в отставку после неудачи сборной на чемпионате Европы в 2004. С 31 августа по 25 сентября 2004 являлся главным тренером «Ромы».
18 января 2005 был назначен спортивным директором леверкузенского «Байера».
Фёллер был участником чемпионата мира 1986 года, где забил красивый гол в ворота сборной Франции. Но многим болельщикам памятен скандал Фёллера и Франка Райкарда в матче 1/8 финала чемпионата мира в Италии. После одного из эпизодов игры, Фёллер подошёл к главному арбитру матча и показал на волосы, указывая судье на то место, куда плюнул Франк Райкард. В интервью журналу «Бильд», Фёллер признал, что в ответ на заявление Райкарда, ответил: «После того как Райкард грубо сыграл против меня, я что-то крикнул в его адрес, но не называл его „чёрной обезьяной“! А вот „фашист“ в свой адрес я слышал. Я пытался поговорить с Франком, но он не хочет вступать со мной в диалог. На поле я часто повышаю голос, как на своих партнёров, так и на соперников, но не позволяю себе грубости, потому что я профессионал». Райкард дал интервью итальянской газетте «Газетта де ла спорт» сказав, что Фёллер обозвал его «чёрной обезьяной», так как Райкард выходец из Суринама.