Родился в семье кустаря-закройщика. По совету Эдуарда Багрицкого в 1929 году переехал в Москву, где начал публиковать стихи в газетах и журналах. Выучил персидский язык. Окончил Московский инженерно-экономический институт (1937). Участник Великой Отечественной войны. С 1941 - 1945 гг. сражался в рядах 110-ой Калмыцкой кавалерийской дивизии.
С 1934 года переводил поэзию, преимущественно эпическую, с восточных языков (в частности, аккадский эпос «Поэма о Гильгамеше», калмыцкий эпос «Джангар», киргизский эпос «Манас», памятник индийской культуры «Бхагавадгита»).
Автор нескольких книг стихов и романа «Декада», воспоминаний о В. Гроссмане , О. Мандельштаме, А. Тарковском и др.
Член Союза писателей СССР (СП) с момента его основания в 1934 году.
Произведения Липкина насыщены сюжетами и образами из Библии, еврейскими темами. Особое место в его творчестве заняла Катастрофа («На Тянь-Шане», 1959; «Вильнюсское подворье», 1963; «Зола», «Моисей», «Памятное место» — 1967).
В 1968 году стихотворение Липкина «Союз» было воспринято «читателями, официальной критикой и особенно пропагандистами антисионистской кампании Ю. Ивановым и Е. Евсеевым как иносказательное прославление еврейского народа» Участник альманаха Метрополь.
В 1979 году, вместе с женой Инной Лиснянской и Василием Аксёновым, вышел из СП в знак протеста против исключения из него Виктора Ерофеева и Евгения Попова. В 1986 году, в начале перестройки, был восстановлен в рядах Союза писателей.
«Нынче Липкин как поэт, прозаик и мемуарист заслонил Липкина-переводчика»..