Долгое время возглавлял Чешскую социал-демократическую партию. Под его руководством слабая и дезорганизованная партия превратилась в одну из влиятельнейших политических сил в стране.
1969 год — окончил Экономический университет в Праге. 1969—1970 — преподаватель Экономического университета в Праге. 1971—1984 — сотрудник компаний «Noctua», «Technosport», «Sportpropag». 1985—1989 — занимался исследовательской работой. 1990—1992 — сотрудник Института прогнозирования Академии наук Чехословакии. 1990—1992 — депутат Парламента.
С февраля 1993 года по 7 апреля 2001 года — председатель ЧСДП. 1996—1998 — Председатель Палаты депутатов Чешского парламента. 17 июля 1998 года — 15 июля 2002 года — Председатель Правительства Чехии.
После неудачно проведенных выборов в Сенат и областных выборов добровольно покинул все руководящие посты. В 2003 баллотировался на пост президента Чехии, но из-за разногласий в собственной партии проиграл выборы Вацлаву Клаусу. Позже, в 2007 году, покинул ряды Социал-демократической партии из-за конфликта с новым руководством партии.
Известен своими резкими и оскорбительными комментариями в адрес современных политических деятелей, как чешских, так и мировых, таких как Йорг Хайдер и Ясир Арафат, а также в отношении целых народов и субэтносов.
Так, весной 1999 года во время переговоров с канцлером Германии Герхардом Шрёдером назвал декреты Бенеша «потухшими». В феврале 2002 г. канцлер Австрии Вольфганг Шюссель заявил, что декреты Бенеша являются «мёртвыми», и призвал оба государства принять об этом новую совместную декларацию, однако председатель палаты депутатов (будущий президент Чехии) Вацлав Клаус назвал это требование нереальным, сославшись на ранее подписанную декларацию об осуждении жестокостей депортации как на окончательную. Затем тот же Земан назвал судетских немцев «предателями Родины» и «гитлеровским легионом», что осудили министр иностранных дел Германии Йошка Фишер и министр-президент Баварии Эдмунд Штойбер.