Начал заниматься футболом в 1983 году в клубе «Бингу», занимался там до 1990 года. Позже играл профессионально за клуб «Вита» (Киншаса). В июле 1992 года был куплен бельгийским клубом «Локерен» за 400 000 евро. В 1995 году перешёл в «Брюгге», где стал одним из лидеров команды. В июле 2002 года куплен немецкой командой «Кайзерслаутерн» за 2 500 000 ?. В конце июня 2006 года был куплен донецким «Металлургом», контракт был подписан на два года. Уже летом 2007 года перешёл в «Жерминаль Беерсхот».
В сборной Демократической Республики Конго играл с 1994 года по 2005 год и провёл 30 матчей и забил 2 гола.
Эрве кроме гражданства Демократической Республики Конго имеет бельгийское.