Воспитанник киевской футбольной школы «Юный динамовец», где начинал играть под руководством тренеров Николая Павловича Мельниченко и Николая Фёдоровича Фоминых.
Выступал за киевское «Динамо» (1963—1973). Футболист с ярко выраженными индивидуальными качествами. Как игрок был высокотехничен, часто применял обманные приемы, тяготел к самостоятельному обыгрыванию соперника.
В чемпионатах Советского Союза провёл 139 матчей, забил 49 голов. Чемпион СССР 1966—1968, 1971 годов. Обладатель Кубка СССР 1966 года. В списке 33 лучших игроков 6 раз (из них на 1-й позиции 3 раза).
За сборную СССР провёл 39 матчей, забил 15 голов. Участник чемпионата Европы 1968 года (4-е место). Участник чемпионата мира 1970 года (лучший бомбардир команды и признан лучшим игроком сборной команды СССР на чемпионате мира 1970).
Закончил играть рано, в 27 лет, из-за рецидива травмы колена, которую получил в 23 года.
Работал главным тренером юношеских сборных Украинской ССР и СССР (2-е место на чемпионате Европы для 17-летних в 1984 году). Олимпийская сборная СССР под руководством Анатолия Бышовца завоевала золотые медали на Играх в Сеуле в 1988 году.
В 1990—1992 гг. — главный тренер сборной СССР (впоследствии называвшейся сборной СНГ), вышедшей в финальный турнир Евро-1992.
В 1994—1996 гг. — генеральный консультант национальной сборной Южной Кореи, которую вывел в финальный турнир чемпионата мира 1994. После признанного успешным участия в ЧМ-1994 (на нём команда проиграла только действовавшим чемпионам мира) Бышовец возглавил национальную и олимпийскую сборные Южной Кореи. В октябре 1994 года национальная сборная Южной Кореи заняла 4-е место на футбольном турнире Азиатских игр, а в августе 1996 года 1-е место в отборочных играх Олимпийского турнира, не пропустив ни одного мяча. Олимпийская сборная попала на финальный турнир ОИ-96 (июль 1996 года), где с одним поражением не смогла пробиться в плей-офф из-за разницы мячей.
Главный тренер сборной России (1998).
В 1988—1990 гг. — главный тренер «Динамо» (Москва).
С января 1997 — главный тренер ФК «Зенит» (Санкт-Петербург).
Вице-президент ФК «Химки» (2003—2004). Главный тренер клуба «Томь» (2005). Главный тренер ФК «Локомотив (Москва)» (2007).
15 октября 2009 года стал тренером-консультантом ФК «Кубань», когда клуб находился на 15 месте в чемпионате, но уже менее чем через месяц, в середине ноября, покинул пост.
В декабре 2010 года было объявлено, что Бышовец стал тренером-консультантом ФК «Уфа», однако в итоге эта информация не подтвердилась.
После Евро-92 уехал отдыхать на Кипр, где его нашли представители кипрского клуба АЕЛ (Лимасол). С командой проработал год, после чего вернулся в Россию.
Главный тренер ФК «Шахтёр» (Донецк, 1998—1999). Главный тренер «Маритиму» (Фуншал, Португалия, 2003). Спортивный директор шотландского клуба «Харт оф Мидлотиан» (2004—2005).
Бышовцу принадлежат следующие высказывания:
Жена — экс-фигуристка. Два сына, один из которых — Валерий — работает начальником башкортостанской таможни.