Родился 14 мая 1943 года в Исафьордуре, в семье парикмахера. Отец — Гримюр Кристгейрссон (исл. Gr?mur Kristgeirsson), мать — Сванхильдюр Оулафсдоуттир Хьяртар (исл. Svanhildur ?lafsd?ttir Hjartar).
В 1962 году окончил гимназию в Рейкьявике, после чего отправился на обучение в Великобританию, в Манчестерский университет, где в 1965 году получил степень бакалавра экономики и политологии. В 1970 году стал первым исландцем, получившим степень доктора философии в области политологии.
С 1973 года был профессором политологии в Университете Исландии, служил членом Альтинга. В 1984 году был одним из трёх левых интеллектуалов, участвовавших в дебатах с Милтоном Фридманом в Университете Исландии.
Политическая карьера Оулавюра началась в 1966 году, после вступления в исландскую молодёжную организацию «Прогрессивной партии».
С 1970 года — доктор политологии, в 1971—1988 годах — преподавал в Исландском университете.
В 1976 году он стал членом партии левого толка «Народный союз» (), ведущей своё происхождение от Коммунистической партии Исландии. Первый депутатский мандат он получил в 1978 году, а с 1980 по 1983 возглавлял парламентскую фракцию «Народный союз».
В 1981—1984 годах — член Парламентской Ассамблеи Совета Европы.
В 1983—1987 — председатель Исполнительного комитета, а в 1987—1995 годах — лидер партии «Народный союз».
Популярность принесли ему политические передачи на радио и телевидении. Он писал статьи в партийную печать. Став одним из самых узнаваемых политиков в стране, на тот момент председатель партии «Народный союз», Оулавюр Рагнар Гримссон в 1988—1991 годах занимал пост Министра финансов в правительстве Стейнгримюра Германнссона. Занимая эту должность, сумел добиться значительного сокращения инфляции и считается «отцом экономической стабилизации».
26 июня 1996 года Оулавюр Рагнар Гримссон был избран пятым президентом Республики и вступил в должность 1 августа. На выборах он представлял партию «Народный союз». За него проголосовали 40,9 процентов избирателей.
В августе 2000 года автоматически остался на следующий срок по причине отсутствия других кандидатов.
Ещё через 4 года, в 2004 году, ему за президентское кресло пришлось побороться, но и в этот раз он выиграл президентскую гонку с результатом 67,5 процентов голосов и таким образом был избран на третий срок.
В 2008 году еще раз остался на следующий срок в связи с отсутствием других кандидатов. Последний раз принял присягу 1 августа 2008 года.
Стал первым в истории Исландии президентом, наложившим вето на закон, принятый Альтингом.
Как президент Исландии является гроссмейстером ордена Сокола.
В 2002 году посетил Россию с официальным визитом. Награждён орденом Святого равноапостольного князя Владимира (II степени) Русской православной церкви.
Был женат дважды. Со своей первой женой, Гвюдрун Катрин Торбергсдоттир (исл. Gu?r?n Katr?n ?orbergsd?ttir; 14 августа 1934 — 12 октября 1998), он познакомился в начале 1970-х. После женитьбы в 1974 году у четы в 1975 родились две дочери-близнеца — Далла и Тинна.
Гвюдрун Катрин была очень популярной женщиной в Исландии. Поговаривают, что избрание Олафура Рагнара Гримссона президентом во многом заслуга его жены. Но в 1998 году семью президента постигло несчастье — первая леди страны умерла от лейкемии.
Спустя 5 лет Олафур Гримссон решился на второй брак. Его избранницей стала уроженка Израиля Доррит Мусайефф (исл. Dorrit Moussaieff).