Яльмар Сёдерберг родился и провёл детство в Стокгольме. Учился в Уппсальском университете с 1890 по 1891 год.
В 1899 году женился на Мэрте Абениус (швед. M?rta Abenius). В этом браке у писателя родилось трое сыновей: Дора (1899), Том (1900) и Микаэль (1903). После 1906 года жил в Копенгагене и Фредериксберге.
В августе 1907 года Сёдерберг познакомился с Эмилией Восс (швед. Emelie Voss), а в 1910 году у них родилась дочь Бетти. Они поженились только в 1917 году после официального развода Сёдерберга. Дочь Бетти (дат. , 1910—1993) впоследствии стала знаменитой датской актрисой.
К концу жизни Сёдерберг все меньше внимания уделял художественной литературе, увлекшись публицистикой.
Сёдерберг умер 14 октября 1941 года в городской больнице Копенгагена. Похоронен в фамильном склепе на местном кладбище Вестре (дат. Vestre Kirkeg?rd).
Сразу после смерти вышли его книги «Последняя книга» (Sista boken, 1942) и «Избранное» (Samlade verk, 1943). В 1969 году была опубликована переписка Сёдерберга с другим шведским писателем Бу Бергманом под названием «Дорогой Ялле, дорогой Бу» (швед. K?ra Hjalle, k?ra Bo).