Фриц Шифф изучал медицину у профессора Фридбергера в Берлине и у Вильгельма Колле в Берне. Во время Первой мировой войны служил в германских частях, расположенных в Малой Азии, в качестве военного врача и эпидемиолога. В 1919-20 годах работал заведующим бактериологическим отделением больницы Моабит. В 1920-22 годах был доцентом университета Грайфсвальда и преподавал там гигиену. Затем перешел во фридрихсхайнскую больницу, где возглавил бактериолого-серологическое отделение. В период работы там создал ряд работ по бактериологии и исследованию групп крови, получивших международное признание. Помимо этого, являлся приват-доцентом университета Фридриха Вильгельма, где преподавал бактериологию и гигиену.
После прихода нацистов к власти ими была сожжена книга Шиффа «Великие иллюзии человечества». В 1935 году из-за своего еврейского происхождения Шифф был уволен со всех должностей и лишен права на преподавательскую деятельность. Через год он иммигрировал в США, где возглавил бактериолого-серологическое отделение нью-йоркской больницы Бет Израэль.
За свою карьеру Шифф опубликовал около 150 научных работ, посвященных в основном серологии групп крови.
В честь Шиффа названа улица в Фридрихсхайне.
17 мая 1968 года Немецкое общество трансфузиологии и иммуногематологии учредило премию Фрица Шиффа за достижения в области медицины.