Джон Тошак родился в 1949 году в Кардиффе (Уэльс). В родном городе он и начал заниматься футболом. В 16 лет попал в основную команду «Кардифф Сити». В конце 1970 был куплен «Ливерпулем» за 110 тысяч фунтов стерлингов. Свой первый гол за «Ливерпуль» Тошаку посчастливилось забить через неделю после подписания контракта, причём в принципиальнейшем матче против другого ливерпульского клуба — «Эвертона». Всего за 8 сезонов выступления за ливерпудлианцев Тошак поражал ворота соперников более ста раз. Вместе с Кевином Киганом, пришедшим в «Ливерпуль» годом позже, Тошак составил широко прославившийся ударный дуэт. Играя за «Ливерпуль» Тошак становился обладателем кубка Англии, дважды кубка УЕФА, и по одному разу — Кубка Европейских Чемпионов и Суперкубка. Под конец карьеры в английском клубе Тошака стали преследовать травмы, и в 1978 году он был продан в «Суонси Сити», где в течение шести сезонов исполнял роль играющего тренера. Всего за пять сезонов «Суонси» вместе с Тошаком вышел из четвёртого дивизиона английской лиги в высший — первый дивизион.
В 1985 Тошак отправился в Испанию, где он весьма продолжительное время работал с такими клубами как «Реал», «Реал Сосьедад», «Депортиво».
В 1994 впервые был назначен главным тренером сборной Уэльса, но продержался на этом посту чуть более месяца. Возвращение на пост главного тренера национальной команды состоялось в 2004 году.
7 августа 2011 года назначен главным тренером сборной Македонии.
В составе «Ливерпуля»:
В составе «Кардифф Сити»:
В составе «Суонси Сити»:
Как тренер «Реал Сосьедада»:
Как тренер «Реала» Мадрид:
Как тренер «Депортиво» Ла-Корунья:
Как тренер «Бешикташа»: