В футбольную команду «Искра» попал в семь лет, когда его, играющего с другими детьми на стадионе, заметил руководитель клуба. Начинал на позиции крайнего нападающего. Во время выступлений в любительской лиге был замечен Константином Бесковым и приглашён в «Динамо» Москва. В составе бело-голубых тогда играло много хороших игроков, Маслов, Аничкин, Якубик, Гершкович, Байдачный, Долматов и другие. Пробиться в основной состав было очень трудно, и Гаврилов нечасто выходил на поле.
В 1977 году Бесков, ставший тренером московского «Спартака», пригласил в команду Юрия Гаврилова. Здесь в полной мере раскрылся его комбинационный талант. Гаврилов стал в «Спартаке» ключевым полузащитником, связки Гаврилов-Ярцев, а затем Гаврилов-Родионов составляли фирменный стиль команды. Гаврилов отличался не только точным и своевременным пасом, но и результативной игрой в атаке. В сезоне 1983 года он стал лучшим бомбардиром страны. За свою карьеру в «Спартаке» Гаврилов забил 90 мячей, 10 голов — в сборной страны, вошел в символический Клуб Григория Федотова (140 голов). Многократно входил в список 33 лучших футболистов СССР.
В 1985 году Гаврилову пришло приглашение из венского «Рапида». Бесков на переход согласился и на новый сезон взял в команду Виктора Пасулько на место Гаврилова. Однако за границу Юрия не выпустили: советские футбольные функционеры решили, что «мало сделал для советского футбола».
В итоге, Гаврилов оказался сначала в «Днепре», а затем в московском «Локомотиве».
За границей Гаврилов всё-таки поиграл — в 1988 году он уехал в Финляндию, в клуб ППТ Пори, где провёл два сезона играющим тренером и вернулся в «Локомотив».
Благодаря усилиям Гаврилова команда вышла в финал Кубка СССР 1990 года, однако в финале Гаврилов не играл (в полуфинале с «Динамо» ему сломали ключицу). Команда в итоге проиграла «Динамо» (Киев) с разгромным счётом — 1:6.
В 1992 году, после развала СССР был создан высший дивизион России, куда вместо команд из союзных республик вошло много новых клубов. В один из них — «Асмарал» Гаврилова пригласил всё тот же Бесков — помочь молодой команде.
В 1993 году выступал за Интеррос, где помог стать лучшим бомбардиром команды Алексею Снигирёву.
Гаврилов постоянно продлевал свою карьеру футболиста — уже будучи тренером, он иногда выпускал себя на поле на замену и доиграл до 43-летнего возраста. Часто играл за ветеранов «Спартака» и сборной СССР.
Бескову принадлежит фраза: «Если не знаешь, что делать с мячом, — отдай его Гаврилову».