С 1917 по 1928 год выступал в составе загребской «Конкордии».
В составе главной национальной сборной Королевства СХС дебютировал 2 сентября 1920 года в «утешительном» матче против сборной Египта на Олимпиаде 1920 года, эту встречу его команда проиграла со счётом 2:4, а последний раз сыграл 28 октября 1923 года, выйдя на замену в проходившем в Загребе товарищеском матче со сборной Чехословакии, игра завершилась вничью 4:4.
Йосип Шольц был профессиональным военным, во время Второй мировой войны служил в усташских войсках НГХ, дослужился до генерала, в 1945 году был взят в плен, осуждён и расстрелян в Белграде.