Бо?льшую часть своей карьеры, с 1977 по 1986 год, Джованни Галли был игроком футбольного клуба «Фиорентина». После Флоренции Галли выступал за «Милан» с которым завоевал множество трофеев. Затем были «Наполи», «Торино» и «Парма». Всего в Серии A сыграл 496 матчей. Завершил свою карьеру в 1996 году в клубе Серии B «Луччези Либертас».
Входил в состав сборной Италии на победном чемпионате мира 1982 года, однако во всех матчах на турнире в воротах чемпиона играл Дино Дзофф. Дебютировал за сборную Галли год спустя 5 октября 1983 года в матче со сборной Греции. На следующем чемпионате мира в 1986 году он был основным вратарём сборной (сыграл 4 матча).
В настоящее время работает спортивным директором клуба «Верона», а также теле- и радиокомментатором.
Клубные
В сборной