Антонио Росси начал заниматься греблей на каноэ в 1982 году в родном городе Лекко. Первого серьёзного международного успеха добился в 1992 году, став бронзовым призёром Олимпийского парного заезда на 500 метров. Однако следует отметить, что основной гребной дисциплиной для спортсмена является парная дистанция на 1 000 метров, принесшая спортсмену большинство медалей и титулов. В 1996 году Росси выигрывает две золотые награды на Олимпийских играх в Атланте на дистанциях 500 метров (одиночка) и 1000 метров (двойка) в паре с Даниэлем Скарпа, в 2000 году выигрывает очередное Олимпийское золото вновь на дистанции 1000 метров в парном заезде, в этот раз пару ему составил Беньамино Бономи. На играх 2004 года выигрывает серебро.
На Олимпийских играх 2008 года спортсмен был удостоен чести стать знаменосцем Олимпийской сборной Италии на церемонии открытия игр. Он стал первым итальянским гребцом на каноэ, удостоенным такой чести.