После переезда семьи в Ригу в 1953 году учился по классу скрипки в школе при консерватории у Иоахима Брауна. В возрасте 13 лет известный скрипач Борис Кузнецов перевёз Кагана в Москву, у которого он обучался в ЦМШ, а с 1964 года — в консерватории. В том же 1964 году Каган завоевал четвёртое место на конкурсе имени Энеску в Бухаресте, год спустя — выиграл Международный конкурс скрипачей имени Сибелиуса, ещё через год стал лауреатом второй премии конкурса имени Чайковского, наконец, в 1968 году одержал убедительную победу на конкурсе имени Баха в Лейпциге.
После смерти Кузнецова Каган перешёл в класс Давида Ойстраха, который помог ему записать цикл из пяти скрипичных концертов Моцарта. С 1969 года началось многолетнее творческое сотрудничество Кагана со Святославом Рихтером. Их дуэт вскоре стал всемирно известным, а Каган сблизился с крупнейшими музыкантами того времени — виолончелисткой Наталией Гутман (ставшей впоследствии его женой), альтистом Юрием Башметом, пианистами Василием Лобановым, Алексеем Любимовым, Элисо Вирсаладзе. Совместно с ними Каган играл в камерных ансамблях на фестивале в городе Кухмо (Финляндия) и на собственном летнем фестивале в Звенигороде. В конце 1980-х годов Каган планировал организовать фестиваль в Кройте (Баварские Альпы), но преждевременная смерть от рака помешала ему реализовать эти планы. В наши дни фестиваль в Кройте проводится в память о скрипаче.
Каган заслужил репутацию хорошего камерного исполнителя, хотя исполнял и крупные концертные сочинения. Большую известность получило, например, исполнение им совместно со своей женой Наталией Гутман Концерта для скрипки и виолончели с оркестром Брамса. Дуэту Кагана и Гутман посвятили свои сочинения Альфред Шнитке, Тигран Мансурян, Анатоль Виеру.
В репертуар Кагана входили сочинения современных авторов, редко исполнявшихся в то время в СССР: Хиндемита, Мессиана, композиторов Новой венской школы. Он стал первым исполнителем посвящённых ему произведений Альфреда Шнитке, Тиграна Мансуряна, Софии Губайдулиной. Каган также был блестящим интерпретатором музыки Баха и Моцарта. Многочисленные записи музыканта выпущены на компакт-дисках.
В 1997 году режиссёр Андрей Хржановский снял фильм «Олег Каган. Жизнь после жизни».