Учился в 6-й московской гимназии. В 1918 году окончил Московский университет (философское отделение). Тогда же начал печататься. Один из организаторов и теоретиков группы конструктивистов. Впоследствии выступил с критикой этого направления (статья «Конец конструктивизма», 1930).
В книге «О памятнике Ленину» предлагал разобрать и перенести здание Исторического музея, храм Василия Блаженного: «До каких пор мы должны беречь кирпичные кости Ивана Грозного? Двести, триста или пятьсот лет простоят эти стены?»
Один из авторов книги "Канал имени Сталина" (1934).
В 1940 году, будучи рецензентом новой книги стихов Марины Цветаевой, написал, что «поэт почти два десятилетия (и какие десятилетия!) был вне родины, вне СССР. Он был в окружении врагов…" В самих же стихах Зелинский увидел «пустоту, бессодержательность». В итоге в публикации сборника Цветаевой было отказано.
31 октября 1958 года он выступал на знаменитом Общем собрании писателей г. Москвы с осуждением Пастернака
В то же время в 1946 году, когда в стране началась очередная погромная кампания против писателей, дал положительную рецензию на знаковый сборник стихов Л. Мартынова «Лукоморье».
В 1948—1969 (с перерывами) старший научный сотрудник института мировой литературы им.А. М. Горького. Зелинскому принадлежат работы по вопросам советской и зарубежной литературы. Много сделал для изучения литератур народов СССР. В 1960 году опубликовал книгу «На рубеже двух эпох. Литературные встречи 1917—1920 годов». Награждён орденом Трудового Красного Знамени и медалями.
Жил в Москве в знаменитом «Доме писательского кооператива» (Камергерский переулок, 2).
Похоронен на кладбище в Переделкино.