Родился в семье Э. И. Грабаря, галицко-русского общественного деятеля, депутата австрийского парламента. Окрещён он был православным священником сербского происхождения, а восприемником стал Константин Кустодиев, дядя художника Б. М. Кустодиева. Дедом Грабаря по материнской линии был Адольф Добрянский, выдающийся деятель галицко-русского движения, а матерью Ольга Грабарь, также занимавшаяся русской просветительской деятельностью в Галиции.
В 1876 году семья переехала в Российскую империю. С 1880 по 1882 жил с семьей в городе Егорьевске Рязанской губернии, учился в местной прогимназии и посещал занятия Житовой Варвары Николаевны сводной сестры Тургенева Ивана Сергеевича, русского писателя и поэта. С 1882 по 1889 Игорь Грабарь учился в Москве в лицее цесаревича Николая (лицей М. Н. Каткова), затем — на юридическом факультете Санкт-Петербургского университета, который окончил в 1893 году.
В отличие от старшего брата, Владимира (1865—1956), ставшего известным юристом, Игорь предпочёл карьеру художника и в 1894 году поступил в петербургскую Академию Художеств, где его руководителем некоторое время был Илья Репин. Академию он окончил в 1898 году, а затем учился в Париже и Мюнхене. Участвовал в работе творческих объединений «Мир искусства» и «Союз русских художников».
С 1902 года Грабарь принимает участие в выставках «Мира Искусства» в «Салоне» и «Союзе»; его работы выставляются и за границей — в Мюнхене, в Париже, в Salon d’Automne, в 1906 году на выставке русского искусства, устроенной С. П. Дягилевым, в Риме на международной выставке в 1909 году и др.
После Октябрьской революции Грабарь также активно занимается живописью, создавая как пейзажи, так и официальные, «придворные» композиции.
Помимо создания картин важную роль в жизни художника занимает исследовательская и просветительская работа. Грабарь много писал об искусстве в журналах — в «Мире искусства», «Весах», «Старых годах», «Аполлоне», «Ниве» и др. Его перу принадлежит текст в издании «Картины современных художников в красках», редактором которого он также состоял; он же является редактором и крупнейшим сотрудником предпринятого И. Н. Кнебелем издания «История русского искусства», а также серии монографий «Русские художники». В начале 1913 года московская городская дума избирает Грабаря попечителем Третьяковской галереи. Он оставался на этой должности вплоть до 1925 года.
Грабарь был ключевой фигурой художественной жизни советской России. Он дружил с женой Л. Д. Троцкого Натальей Седовой, с которой познакомился во время совместной работы в музейном отделе Наркомпроса. В самом начале сталинских чисток Грабарь ушел со всех своих ответственных постов и возвратился к живописи. Он написал портрет девочки по имени Светлана, который вдруг стал невероятно популярен. Секрет объясняется так: дочь Сталина, которую многие не видели вживую, тоже звали Светлана, и все решили, что на портрете изображена именно она.
Кроме того, Грабарь в 1918—1930 годах руководил Центральными реставрационными мастерскими в Москве, а с 1944 года работал научным руководителем мастерских и возглавил многочисленные комиссии, занимавшиеся изъятием, что чаще было формой спасения от неизбежного уничтожения, картин из усадеб и икон из монастырей. Нынешний Всероссийский художественный научно-реставрационный центр, выросший из созданных И. Э. Грабарём Центральных реставрационных мастерских, носит его имя.
Был консультантом Ученого совета по реставрационным работам в Троице-Сергиевой Лавре, научным руководителем и главным архитектором которых был назначен И. В. Трофимов.
В начале 1943 года Грабарь выдвинул идею компенсации потерь советских музеев за счет конфискации произведений из музеев Германии и ее союзников. Он возглавил Бюро экспертов, которое составляло списки лучших произведений из музеев Европы, готовил «трофейные бригады», отправлявшиеся на фронт, и принимал эшелоны с произведениями искусства. Примечательно, что в начале войны нацисты проводили конфискацию произведений завоёванных ими территорий в рамках проекта «Линц» и немалая часть была конфискована с территории СССР.
Действительный член АН СССР (1943). Действительный член Академии художеств СССР (1947).
Похоронен в Москве на Новодевичьем кладбище (участок № 8).