Лауреат двух Сталинских премий (1941, 1946). Народный артист СССР (1964). Герой Социалистического Труда (1975).
И. Е. Хейфиц родился 4 (17) декабря 1905 года в Минске.
В 1927 году он окончил Ленинградский техникум экранного искусства, а в 1928 году — кинофакультет Института истории искусства.
В 1928 году Иосиф Хейфиц пришёл работать на кинофабрику «Совкино» (ныне — киностудия «Ленфильм»). В кино он дебютировал сначала как сценарист, совместно с А. Г. Ивановым и А. Г. Зархи создав сценарии фильмов «Луна слева» и «Транспорт огня». Член ВКП(б) с 1945 года.
Позже Иосиф Хейфиц стал режиссёром-постановщиком, причём с 1928 по 1950 годы работал совместно с А. Г. Зархи, возглавил 1-ю комсомольскую постановочную бригаду ленинградской фабрики «Совкино» (ныне киностудия «Ленфильм»), выпустившую фильмы, посвящённые советской молодёжи, — «Ветер в лицо» (1930), «Полдень» (1931), комедию «Горячие денёчки» (1935). С исторической глубиной, психологической правдой, большой художественной силой показан в фильме Зархи и Хейфица «Депутат Балтики» (1937) приход в революцию крупного русского учёного профессора Полежаева (в главной роли Н. К. Черкасов). Значительным произведением киноискусства стал фильм Зархи и Хейфица «Член правительства» (1939), в центре которого образ русской крестьянки (в главной роли В. П. Марецкая), прошедшей трудный путь от батрачки до депутата Верховного Совета. Совместно с Зархи поставил также фильмы «Его зовут Сухэ-Батор» (1942), «Малахов курган» (1944), документальный фильм «Разгром Японии» (1945). В 1950-е годы режиссёр снял такие известные картины, как «Большая семья», «Дело Румянцева», «Дорогой мой человек». Затем Иосиф Хейфиц обратился в своем творчестве к русской классике, экранизировав произведения А. П. Чехова, И. С. Тургенева, А. И. Куприна — «Дама с собачкой», «Плохой хороший человек», «Ася», «Шурочка».
Отличительными чертами его творчества можно назвать глубокое раскрытие внутренней сущности героев, тонкое понимание киноязыка и выразительность деталей.
В фильмах Иосифа Хейфица ярко, порой с совершенно неожиданных сторон, раскрылись актёрские индивидуальности таких незаурядных артистов, как И. С. Саввина, А. В. Баталов, А. Д. Папанов,О. И. Даль, В. С. Высоцкий, Л. В. Максакова, А. Н. Роговцева, Е. А. Коренева, С. Ю. Садальский.
Не раз работы режиссёра удостаивались различных кинематографических призов, в том числе были отмечены и на Каннском кинофестивале. Последней работой Иосифа Хейфица стала драматическая лента «Бродячий автобус», вышедшая на экраны страны в 1989 году.
Умер Иосиф Хейфиц 24 апреля 1995 года в Санкт-Петербурге. Похоронен на кладбище в Комарово.