Окончил 6 классов. В 1916—1922 был рассыльным и подсобным рабочим. С 1923, вместе с Ю. Олешей, М. Булгаковым, Ильфом и Паустовским, входил в штат сотрудников газеты «Гудок» (во время войны её военный корреспондент). В 1930-х гг. также писал очерки для журнала «Наши достижения». Один из авторов книги "Канал имени Сталина" (1934).
В мае 1944 арестован, осуждён на 8 лет за «антисоветскую агитацию». Отбыв срок, в 1952 поселился в Калуге, затем в Подмосковье. Реабилитирован в 1955.
«Писательская жизнь Гехта была нелегкой и чистой. Он не знал обеспеченности и сторонился бесплодных окололитературных страстей», писал в некрологе Паустовский.
Жена — Вера Михайловна Синякова (1899—1973), до 1924 была женой Григория Петникова. Её сестра Ксения была замужем за Николаем Асеевым.