Начинал выступления в «Килимспоре», затем играл в «Генчлербирлиги». Успехи пришли к нему только после перехода «Галатасарай», с которым он за 14 лет выиграл 6 чемпионатов и 4 Кубка Турции. В 2000 году клуб одержал победу в Кубке УЕФА, а Пенбе в его финале отметился голом в послематчевой серии пенальти против лондонского «Арсенала». В победном матче за Суперкубок УЕФА против «Реал Мадрида» он участия не принимал. Последним для Эргюна стал сезон 2007/08, который он провёл «Газиантепспоре».
Первым крупным турниром в составе сборной Турции для Пенбе стало Евро 2000, где он участвовал в матчах с Италией и Бельгией на групповом этапе и проигранном (0:2) четвертьфинале с Португалией.
На чемпионате мира 2002 года Эргюн сыграл один матч на групповом этапе против Коста-Рики и участвовал во всех играх на выбывание, где команда завоевала «бронзу». В благодарность за этот результат именем Пенбе был назван стадион в его родном Зонгулдаке.
На Кубке конфедераций 2003 года Пенбе провёл все 5 матчей сборной Турции и вновь завовевал в её составе бронзовую медаль.
5 ноября 2008 года Пенбе был приглашён в качестве ассистента Эрдогана Арыджи в клуб «Хаджеттепе», а когда Арыджу выгнали, Эргюн занял его место и не смог спасти команду от вылета из Суперлиги. 12 февраля 2010 года Пенбе возглавил команду «Мерсин Идманюрду» из Первой лиги ТФФ, с которой занял 13-е место, после чего возглавил «Карталспор» — команду, финишировавшую в турнирной таблице на строчку выше.
C марта 2011 года возглавляет клуб «Кайсери Эрджиесспор», с которым стал восьмым в Первой лиге в сезоне 2010/11.
Как игрока национальных сборных Турции:
Как игрока «Галатасарая»: