Анатолий Иванович вырос в детском доме, который находился в блокадном Ленинграде. Фамилии ребенка никто не знал, из-за чего решили назвать Богдановым - от «Богом дан».
Благодаря своей настойчивости в годы Великой Отечественной войны он стал юнгой на катере, а в конце войны — учеником-тромбонистом в военном оркестре. Став солистом, тяжело заболел, вышел из состава оркестра, а затем демобилизовался.
В период обучения в ремесленном училище стал выступать за команду «Трудовые резервы» (Ленинград) (в период1947—1949), первым тренером стал Илья Рафаилович Иохельсон.
Впоследствии выступал за команды «Трудовые резервы» (Москва) (1949—1951), Вооруженные силы (Московская обл.) с 1951 года, «ЦСКА» (Москва) с 1963 года.
Приняв решение уйти из спорта, поступил в Военно-политическую академию имени В. И. Ленина на философский факультет. В период обучения он серьёзно увлекся стрельбой из лука и вскоре стал чемпионом Вооруженных Сил в этом виде спорта. Затем Анатолий Иванович Богданов стал преподавателем Московского высшего общевойскового командного училища, а позднее - старшим преподавателем Военной академии химической защиты им. Тимошенко.
В Хельсинки начался триумфальный, к сожалению, короткий путь Анатолия Богданова, который участвовал в двух Олимпиадах и оба раза победил, а на своём единственном Чемпионате Мира 1954 года в Венесуэле стал шестикратным чемпионом. Свою активную стрелковую карьеру он закончил в возрасте 28 лет в 1959 году, с блеском победив на Чемпионате Европы, выиграв четыре золотых медали из четырёх возможных и установив мировой рекорд. Главной причиной стало то, что он был очень независимым человеком, на всё имел своё мнение, не всегда совпадающее с мнением шефов. Пытаясь сломить Богданова, стрелковые руководители СССР не включили его в сборную команду на Чемпионат Мира 1958 года в Москве и в его любимом 3х40 на триста метров сборная СССР осталась без медалей.
Автор книг «Вижу цель», «Специальная подготовка стрелка из лука».
В 1957 году награжден орденом Ленина.