Эрвин родился в городе Денисон округа Грэйсон штата Техас. Во время службы в военно-воздушных силах США научился играть на тенор-саксофоне. После окончания службы переехал в Бостон, где поступил в музыкальный колледж Беркли. Его музыку характеризовали как сильную и жесткую с элементами блюза и госпела. Есть мнение, что на музыку Эрвина оказал влияние Джон Колтрейн.
Переехав в Нью-Йорк Эрвин присоединяется к квартету американского пианиста Парлана Хорэйса (). С ними он записал Up & Down и Happy Frame of Mind (альбомы вышли на лейбле Blue Note Records). С 1956 по 1963 г. Эрвин работает с Чарльзом Мингусом. Первыми совместными работами с Мингусом стали альбом Mingus Ah Um и композиция Wednesday Night Prayer Meeting на альбоме Blues and Roots.
В 1960-х Эрвин так же выступает в собственном квартете с пианистом Яки Бьярдом (), басистом Ричардом Дэвисом () и барабанщиком Аланом Даусоном (). Квартет сотрудничал с лэйблом Prestige Records. Позже Эрвин записывается вместе с пианистом Рэнди Вестоном для лэйбла Blue Note Records.
В 1970 году Эрвин Букер умер в Нью-Йорке от болезни почек.
Девять наиболее известных пластинок Эрвина изданные лэйблом Prestige Records между 1963 и 1966 г.:
После окончания работы с Prestige Records в 1966 г. Эрвин работает с Pacific Records и затем с Blue Note Records. В этот период времени он записывает: