Карьера С. Пиола началась в клубе «Про Верчелли», тогда как дебют в высшей лиге итальянского футбола состоялся 16 февраля 1930 года в матче против «Болоньи». В том чемпионате форвард забил 13 голов, несмотря на то, что ему даже не исполнилось восемнадцати. В 1934 Пиола перебрался в «Лацио», и, выступая за столичный клуб, дважды становился лучшим бомбардиром лиги: в 1937 и 1943 годах. Следующей вехой в биографии Пиолы стал «Торино». Фантастические 27 мячей в 23 матчах сделали его кумиром гранатовых, пусть даже в стане туринцев он пробыл всего один сезон. По окончании войны Пиола присоединился к «Новара», а до этого провёл два незабываемых года в другом клубе из Турина — «Ювентусе».
Свой дебютный матч за национальную команду Сильвио Пиола провёл 24 марта 1935 года против Австрии. Тогда же он отметился первым голом. В «золотом» матче против Венгрии в финале Кубка Мира нападающий также отметился «дублем». Если бы не Вторая мировая война, Пиола наверняка забил много больше, чем 30 мячей в 34 играх. Последний матч на международной арене легенда сыграла в 1952 против Англии (1:1).
Сильвио Пиола умер в Гаттинаре.
За свою карьеру он сыграл 536 (537) игр в Серии А, что делает его четвёртым игроком в истории по этому показателю.
В сезоне 1933/1934 Пиола, играя в составе «Про Верчелли», забил шесть голов в матче против «Фиорентины», который закончился со счётом 7:2.