Всю свою карьеру футболиста Фред Рюттен провёл в «Твенте», сыграв за клуб 307 игр и забив 12 голов. Так же 16 ноября 1988 года Фред Рюттен сыграл один матч за сборную Нидерландов против Италии.
18 августа 1991 года в матче чемпионата Нидерландов против «Фейеноорда» Фред Рюттен играл на позиции вратаря. За 6 минут до окончания матча вратарь «Твенте» Ханс де Конинг был удалён с поля, а так как лимит замен уже был исчерпан, то в ворота встал Рюттен.
Из-за травмы бедра в 1991 году Фред Рюттен закончил свою карьеру игрока.
После травмы Фред Рюттен работал в «Твенте» (помощником главного тренера, техническим директором клуба и главным тренером) и в ПСВ (тренером молодёжной команды и помощником главного тренера).
Летом 2008 года Рюттен возглавил «Шальке», но 26 марта 2009 года был отправлен в отставку за неудовлетворительные результаты команды. 17 апреля 2009 года Рюттен подписал контракт с ПСВ и стал новым главным тренером клуба.