Эрве Базен (Жан Пьер Мари Эрве-Базен) родился 17 апреля 1911 года в набожной буржуазной семье. Его детство прошло в департаменте Мен и Луара. Из-за частых конфликтов с властной матерью (которую он изобразил позднее в романе «Гадюка в кулаке») в отрочестве он несколько раз сбегал из дома, пока в 20 лет не покинул семью окончательно. Однако, несмотря на мучительные воспоминания, которые стены родительской усадьбы вызывали в его памяти, он всю свою жизнь оставался очень привязан к родным местам — именно там происходит действие большинства его романов.
После пансионата Эрве Базен поступил на факультет литературы в Сорбонне. В поисках заработка он брался за любую работу, меняя множество профессий. Литературную деятельность начал со стихов, поначалу безуспешных. Хотя в 1946 году он создаёт поэтический журнал «Раковина» (La Coquille), выпущенный всего в 8 томах; а в 1948-м получает премию Аполлинера за «День» (Jour) — его первый сборник поэм, написанный в продолжение ? la poursuite d’Iris. По совету Поля Валери Базен бросает поэзию, чтобы посвятить себя прозе.
Конфликтные отношения с матерью вдохновили писателя на роман «Гадюка в кулаке» (Vip?re au poing, 1948), в котором повествование идёт о полных ненависти отношениях между членами семьи Резо: бездушной и жестокой матерью, которая постоянно находит новые способы притеснения и придирок, и её детей, в первую очередь рассказчика Жана Резо. Эти «Атриды во фланелевом жилете», по выражению самого Эрве Базена, были по достоинству оценены критиком Морисом Надо (). Роман имел огромный успех в послевоенное время, как и многие другие, в которых натуралистично описывались нравы эпохи и создавались достоверные психологические портреты. Персонажи «Гадюки в кулаке» стали героями и других романов: «Смерть лошадки» (La mort du petit cheval, 1950) и «Крик совы» (Cri de la chouette, 1971).
В 1950-м Эрве Базен опубликовал L’Amour est ? r?inventer в журнале Люси Фор () La Nef, в том же номере были напечатаны произведения Марселя Оклера (), Жака Одиберти (), Эмиля Даноена (), Мориса Дрюона и Андре Моруа.
Эрве Базен считается «семейным романистом»: семья — центральная тема всех его романов. В то же время он пишет новеллы и эссе, как, например, «Всё, во что я верю» (Ce que je crois, 1977).
В 1960 году Эрве Базен становится членом Гонкуровской академии, а в 1973-м — её президентом (Хорхе Семпрун, который должен был сменить Франсуа Нурисье (), передал ему свою очередь).
Эрве Базен входил в организацию «Движение за мир», связанную с коммунистической партией, идеи которой были ему близки. Впрочем, он поддерживал во Франции супругов Розенбергов, пока шёл судебный процесс по их делу.
В 1980 году Эрве Базен получает Ленинскую премию, что позволило Роже Пейрефитту иронично заметить: «Эрве Базен получил две премии, которые составили пару: Ленинскую премию за мир и Премию за чёрный юмор ()».
Наибольшее количество произведений Базена на русском языке было выпущено в СССР издательством «Прогресс»
Эрве Базен скончался 17 февраля 1996 года на родине, в Анжере.