Святой Юлиан родился у еврейских родителей в Толедо (Испания), но принявших христианство. Он учился в школе при кафедральном соборе, был монахом, позже аббатом в Агали. Его духовным учителем был святой Евгений II Толедский. 29 января 680 года Юлиан стал преемником архиепископа Квирика в епархии Толедо. Он был первым архиепископом Вестготского королевства, имевшим власть над всеми остальными иерархами Пиренейского полуострова с правом рукоположения епископов на вакантные кафедры. В этом сане он в 680 году содействовал королю Эрвигу в свержении короля Вамбы, а также предпринимал меры для централизации управления Церковью Вестготского государства в руках архиепископа Толедо. Положение Юлиана как главы Церкви Вестготского королевства создавало большие неудобства королевскому духовенству, а его взгляды на доктрину Троицы вызывали беспокойства Святого Престола.
Святой Юлиан Толедский председательствовал на нескольких соборах и синодах и исправил мосарабскую литургию. Он был плодовитым церковным писателем: среди его работ Insulatatio vilis storici in tyrannidem Galliae («Речь с порицанием тирании франков»; 673 год), Prognostics (Книга о смерти), История короля Вамбы и книга о загробной жизни (687 год). Несмотря на нрав доброго и обходительного человека, архиепископ Юлиан поощрял королей вестготов в гонениях на евреев. Например, председательствуя на Двенадцатом Толедском соборе, он принудил короля Эрвига принять несколько анти-еврейских законов. По просьбе Эрвига Юлиан в 686 году написал De Comprobatione Aetatis Sextae Contra Judaeos, работу о Мессии в Библии и пути для обращения евреев в христианство.
Святой Юлиан умер в Толедо 6 марта 690 года. Его преемником в Толедской епархии стал архиепископ Сисеберт.