Одним из самых серьёзных препятствий на пути к успеху было происхождение Аргова. Он родился в Ришон Ле Цион и вырос в бедной семье. У него было 9 братьев и сестер. В детстве он пел в йеменской религиозной общине.
Особое место в его дебютном альбоме Элеонор (Eleanor (1981)) занимает первый трек «Sod HaMazalot» и «Malah Yaldah», посвящённая его бывшей жене Брахе.
Аргов был одним из первых исполнителей стиля мизрахи, добившийся коммерческого успеха. У него был замечательный талант к импровизации. Аранжировщик и дирижёр Нанси Брандес, работавший с ним над многими из его записей, описывал его как музыкального гения: «он мог прекрасно петь разные версии одной и той же песни».
После ареста по обвинению в изнасиловании Аргов совершил самоубийство в тюремной камере. Он скончался на рассвете через несколько часов после своего появления на популярном израильском телевизионном ток-шоу, где обсуждал свою жизнь и проблемы. На шоу он заявил, что проходит лечение от наркозависимости. У Аргова был один сын, Гили.
И после смерти Зохар Аргов продолжает оставаться королём музыки мизрахи. В последние годы был признан его огромный вклад в израильскую культуру. Его песни, такие, как «Ха-перах бе-гани» («Цветок в моем саду»), «Ма лах яльда» («Что с тобой, девушка»), «Бе-авар хаю зманим» («Были раньше времена»), «Бадад» («Одинок») считаются классикой израильской музыки и неотъемлемой частью национальной культуры.