Родился 25 октября 1879 года в семье кочегара паровоза Олле Хаарманна. Все кто знал Олле, говорили, что человеком тот был мрачным, не очень умным, но слишком вспыльчивым. Фриц, младший сын Олле, боялся и ненавидел отца, но перечить грозному папе не смел. Фриц вымещал злость на животных и детях, младших по возрасту. Перед ним встала реальная опасность попасть в тюрьму. Поэтому Олле добился зачисления сына в унтер-офицерскую школу в Новом Брейзаке.
Фриц не проявлял особого рвения к учебе, но считался хорошим солдатом. За срок службы у командования не было нареканий к Хаарманну. Потом Хаарманн демобилизовался из армии. Через пару лет он за приставание к детям попал в психиатрическую клинику в Хильдшейме, но был признан неспособным отвечать за свои поступки. Хаарманн не был признан буйным, а потому режим у него был свободным. В 1904 году Хаарманн благополучно сбегает из клиники и перебирается в Швейцарию. Какое-то время он бродяжничал, пару раз оказался в полиции, а затем вернулся в Ганновер.
Отец был не рад возвращению сына. У Олле и Фрица произошла серьёзная ссора, и сын покинул дом. Некоторое время опять бродяжничал, жил случайными заработками и кражами. Потом решил вернуться в армию. Служить попал в 10-й егерский батальон, базировавшийся в Кольмаре (провинция Эльзас).
Нет доказательств того, что Хаарманн принимал участие в боевых действиях Первой мировой войны. Но после увольнения Хаарманна из армии в 1918 году он получил хороший пенсион, что позволило Фрицу открыть в Ганновере кондитерскую лавку. В своей лавке Хаарманн торговал не только пирожными, но и мясом, что в те голодные времена не было необычным.
Первая жертва Фрица, 17-летний Фридель Роте, которого маньяк встретил на улице и пригласил жить с ним, незаметно отправил открытку матери в которой написал, что его приютил «добрый дядя», и указал его адрес. Произошло это в 1918 году. Он не догадывался о психопатии Хаарманна.
Фридель покинул маму без предупреждения, и та долго искала сына. Фридель отправился в Ганновер, который в то время был гей-центром Германии. Роте был гомосексуалом, что не нравилось его матери.
Мать Фриделя, получив открытку, тут же пошла в полицию. К Хаарманну на улицу «Rote Reihe 2» пришли полицейские . Как рассказывал позже Хаарманн, в момент, когда полицейские вломились в его дом, маньяк как раз заканчивал разрезать убитого им Роте. Голова юноши лежала за занавеской окна, прикрытая простой газетой. Полиция ее не обнаружила. По поводу мяса Хаарманн заявил, что это — говядина.
Чуть позже он все-таки был арестован, а потом и осужден на девять месяцев «за непристойное поведение», так как он приставал к юношам с предложениями заняться сексом. Выйдя из тюрьмы, Хаарманн понял, что необходимо более осторожно выбирать партнеров. А ещё неплохо бы подружиться с полицией. В этом ему помогло армейское прошлое. Через пару месяцев после освобождения маньяк стал внештатным сотрудником полиции. Пользуясь званием, Хаарманн стал частенько посещать Центральный Вокзал Ганновера. Там он и находил своих жертв. Большинство из исчезнувших (жертвами становились мальчики и юноши в возрасте от 13 до 20 лет) были бродягами, никто их особо и не искал.
Почти все жертвы были подобраны им в зале ожидания Центрального Вокзала Ганновера. В то время вокзал, особенно в ночное время, считался зоной повышенной опасности. Ночью туда пройти было довольно трудно, но Хаарманна, как полицейского, пускали.
Хаарманн выбирал наиболее запущенного и грязного подростка или юношу. Подходил к нему, предъявлял полицейский значок, предлагал пожить в каморке при мясной лавке. В большинстве случаев бродяги соглашались.
Через пару дней знакомства Хаарманн склонял их к сексуальным отношениям. Те не сопротивлялись, так как Харманн умел выбирать жертв-геев. Через пару дней или недель он убивал их. Происходило это всегда одинаково: он придушивал жертву, а когда та теряла сознание, перегрызал ещё живому парню горло, выпивая кровь. Хаарманн не убил ни одной женщины, так как считал их «вместилищем порока и распространителями венерических заболеваний», и брезговал их кровью.
В 1919-м (по другой версии — в 1921-м) Хаарманн встретил Ханса Гранса (1901—1975), который стал его постоянным любовником и сообщником в преступлениях. Мясо жертв Гранс предложил добавлять в сосиски, которые готовились в лавке Хаарманна. В 1923 году Гранс наладил сбыт человеческого мяса под видом говядины в ближайшие рестораны и кафе.
До середины 1924 года Хаарманн убивал в основном тех, кого выбирал Гранс. Хаарманн убивал не только из-за мяса. К примеру, Адольф Ханнапель был убит потому, что Грансу понравились его новые брюки, а Эрнст Шпекер стал жертвой из-за новой рубашки.
22 июня 1924 года Хаарман попытался силой заставить молодого человека по имени Фромм ночевавшего на вокзале пойти с ним «поесть мяса». Парень не хотел, и слышал про убийства бродяг с вокзала Ганновера и отказался. Хаарман попытался силой увести юношу. Фромм оказал сопротивление, на вокзал прибыла полиция и задержала обоих. Хаарманну не помогло звание полицейского. В участке Фромм уверенно заявил, что Хаарманн грязно приставал к нему. А ещё и напомнил о слухах про убийства людей с вокзала.
Полицейские прислушались к словам Фромма . Хаармана, несмотря на его принадлежность к полиции, оставили в камере. В его лавке провели обыск. Они обнаружили останки человеческих тел, и Гранса застали в лавке в момент, когда тот разделывал тело парня, исчезнувшего с вокзала несколько дней назад.
После ареста Хаармана и Гранса одежда из их квартиры была осмотрена родственниками и членами семей пропавших. При этом выяснилось, что гардероб Ханса Гранса полностью состоял из одежды жертв.
До суда Хаарманна содержали в железной клетке, к его рукам и ногам были прикованы цепи, не позволявшие ему двигаться более чем на два метра. Пока шло следствие, Фрица изучали известные немецкие врачи. Хаарман утверждал что невменяем, но было доказано обратное.
На судебном процессе Фриц Хаарман признался, что убил с 1918 по 1924 года 24 мальчика. Однако число трупов, согласно следственным данным, составляло 27. Все жертвы были в возрасте между 10 и 22 годами. По собственным показаниям, он убивал своих жертв укусом в шею, затем расчленял их.
Хаарман был приговорен 19 декабря 1924 года к смерти через обезглавливание на гильотине. Ханс Гранс был обвинён в соучастии в преступлениях и приговорён к смерти. Позже приговор был пересмотрен и изменён на 12 лет тюремного заключения. Выслушав приговор, Хаарманн сперва впал в ступор, а потом рассмеялся.
— Я все равно вернусь! — закричал он. — Вы же знаете, что вампиры бессмертны!
Ранним утром 15 апреля 1925 года во дворе тюрьмы города Ганновера приговор был приведен в исполнение. Голова была предоставлена в распоряжение ученых-исследователей. В настоящее время она находится в Гётингене. Четыре части его мозга находятся в Мюнхене.
После освобождения Гранс жил в Ганновере до своей смерти в 1975 году.
Останки жертв серийного убийцы были погребены в 1928 году на городском кладбище Ганновера (отделение 49 D, номер 189/192) — (Stadtfriedhof Hannover-St?cken, Abteilung 49 D, Nr. 189/192).