Родился в музыкальной семье, учился в Санкт-Петербургской консерватории у Н. А. Римского-Корсакова. Окончив консерваторию в 1886 году, стал вести в ней класс композиции (в 1901—1918 — профессор). Среди его учеников — С. С. Прокофьев и Н. Я. Мясковский. Витолс был близким другом А. К. Глазунова и А. К. Лядова, принимал участие в «Беляевских пятницах» — творческих собраниях композиторов, проводившихся на квартире издателя и мецената Митрофана Беляева. Именно в издательстве Беляева было напечатано большинство произведений Витолса этого периода (опубликованных под именем Йозеф Витол).
В 1897—1914 Витолс выступал как музыкальный критик в печатных изданиях Петербурга, а после революции уехал в Ригу, где стал одним из крупнейших представителей музыкальной культуры независимой Латвии.
В 1918 он возглавил Латвийскую национальную оперу, год спустя основал Латвийскую консерваторию, в которой занимал пост профессора композиции и ректора (до 1944 с перерывом в 1935—1937). В его классе обучались практически все известные впоследствии латвийские композиторы, а также некоторые литовские.
В 1944 году, когда в Латвию вошли советские войска, Витолс эмигрировал в Германию, где и умер четыре года спустя.
Витолс — автор первых латвийских сочинений в жанре симфонии (1888), фортепианной сонаты (1885), струнного квартета (1899). Его стиль отмечен ясностью формы и хорошей оркестровкой. Синтезировав влияния европейской и русской музыки конца XIX века, композитор также использовал в своих сочинениях элементы латышского музыкального фольклора.