Мартин Генри Балсам родился в Бронксе в еврейской семье. Его отец, Альберт Балсам, был изготовителем спортивной одежды для женщин. Во время учёбы в школе он посещал драматический кружок, а после её окончания учился в Драматической мастерской Новой школы Нью-Йорка под руководством влиятельного немецкого театрального режиссёра Эрвина Пискатора. Его театральный дебют состоялся в 1941 году в постановке «Пьеса решает всё». В годы Второй мировой войны Мартин Балсам служил в рядах ВВС США. В 1947 году Элиа Казан и Ли Страсберг выбрали Балсама на одну из ролей в свой телевизионный проект Актёрской студии, с чего и началась его активная карьера на телевидении. Он появился в таких сериалах, как «Сумеречная зона», «Доктор Килдэр», «Она написала убийство» и многих других.
На большом экране Балсам дебютировал в 1954 году в фильме «В порту» (1954) с Марлоном Брандо в главной роли. Далее последовали новые успешные роли в фильмах как «12 разгневанных мужчин» (1957), «Психо» (1960), «Завтрак у Тиффани» (1961), «Мыс страха» (1962) и «Тысяча клоунов» (1965), за роль в котором актёр удостоился премии «Оскар» как лучший актёр второго плана. Так же заметными стали его роли в фильмах «Тора! Тора! Тора!» (1970), «Убийство в Восточном экспрессе» (1974), «Вся президентская рать» (1976) и ремейк «Мыс страха» (1991).
Помимо этого Мартин Балсам с успехом играл и на театральной сцене, получив в 1967 году престижную премию «Тони» за роль в постановке «Вы знаете, я вас не слышу, когда льётся вода».
Актёр трижды был женат, и первые две его супруги были актрисами. От второго брака у актёра осталась дочь, актриса Талия Балсам, родившаяся в 1959 году, а от третьего — сын и дочь. Мартин Балсам умер от инфаркта в феврале 1996 года в Риме и был похоронен на кладбище в Бергене, Нью-Джерси.