Родился 11 апреля 1908 года в префектуре Тотиги в семье инженера.
В 1933 году закончил электротехнический факультет Университета Васэда (сокурсники прозвали его «гением-изобретателем»), дипломная работа получила приз на Парижской выставке.
В 1946 году Ибука и Акио Морита совместно основали корпорацию Sony, которая первоначально называлась «Токийской телекоммуникационной инженерной корпорацией».