Окончил медицинский факультет и получил докторскую степень в Мюнхене. Проводил исследования по офтальмологии, позже стал специализироваться на проблеме беременности в гинекологии.
Грэфенберг отстаивал теории противозачаточных средств, в частности он предложил внутриматочную спираль /IDS/, которая действовала 5 лет.
В 1933 году Грэфенберг лишился всех постов в университете из-за своего еврейского происхождения, а в 1937 году его арестовали. В 1940 году Международное общество сексологии собрало деньги и выкупило его из концлагеря, после чего Грэфенберг смог уехать в США.
В 1950 году в США вышла его брошюра «The Role of Urethra in Female Orgasm», где он описал точку Грэфенберга.