Гольдман начал записываться в середине 1970-х гг., однако пика популярности достиг в 1995 г., когда написанный им для Селин Дион альбом «D’eux» был признан самой продаваемой франкоязычной пластинкой в истории. Помимо Дион, его песни исполняли Джонни Холлидей, Патрисия Каас, Патрик Фьори, Гару и Рэй Чарльз.
Сын польского еврея — участника Французского Сопротивления, брат левого интеллектуала и революционера-интернационалиста Пьера Гольдмана.
В 1975 году Жан-Жак Гольдман женился на Катрин, с которой имеет троих детей Каролина (1977), Майкл (1979) и Нина (1984). После 22-х лет совместной жизни в 1997 году они развелись.
13 октября 2001 года он женился на Натали, 22-летней студентке из Марселя. Имеют троих дочерей Майя (2001), Кими (2004) и Роуз (2007).