Гарольд Рамис родился в Чикаго, Иллинойс, в еврейской семье Рут и Натана Рамисов. Окончил Вашингтонский университет в Сент-Луисе, штат Миссури.
С 1967 по 1984 год был женат на Анне Рамис, с которой воспитывал дочь Вайолет (род. 1977). В 1989 году женился на Эрике Мэнн, с которой он воспитывает двух сыновей: Джулиана (род. 1990) и Дэниэла (род. 1994).