Крупа начал играть на барабанах в юности, его первый альбом был записан в Чикаго в 1927 г. Через два года он переехал в Нью-Йорк, где играл в театральных бэндах, участвовал в бродвейских шоу, вошел в группу Рэда Николза. Его кумиром стал Чик Уэбб.
В 1935 году присоединился к оркестру Бенни Гудмана. Одной из самых популярных песен оркестра с участием Джина стала «Sing, Sing, Sing» (Sing, Sing, Sing), записанная в 1938 году. В том же году Джин покинул оркестр из- за разногласий с Гудманом, который считал, что Джин подменяет настоящую музыку шоу.
Премьера собственного оркестра Крупы состоялась уже в ноябре. Этот бэнд существовал до 1943 года и стал заметным явлением в жизни Нью-Йорка, особенно в тот период, когда в нем работали трубач Рой Элдридж и певица Анита О’Дэй. В 1945-51 Крупа возглавил второй состав своего биг-бэнда, в котором выступали Чарли Вентура, Анита О’Дэй и начинающий аранжировщик и саксофонист Джерри Маллиген.
В 1973 году Джин Крупа умер от сердечного приступа, ему было 64 года. На его похоронах Бадди Рич сказал:
Он был не просто лучшим — он был самым лучшим.
Крупа стал первым значительным солистом эпохи свинга. Он был первым барабанщиком, который использовал том-томы и продумывал свои сольные эпизоды.
Соло на ударных должно обладать целостностью. Когда я начинаю соло, то должен иметь точное представление о том, что я собираюсь сыграть.
Я счастлив, что мне удалось сделать две вещи — я превратил барабанщика оркестра в высокоуважаемого человека и мне удалось привлечь к джазу внимание многих людей.