Родился 26 июля 1931 в селе Николаевка Волновахского района Донецкой области УССР. Украинец.
После окончания школы Дзюба поступил в 1949 в Сталинский педагогический институт, который он закончил в 1953, был комсоргом института, лектором обкома ЛКСМУ. После окончания учёбы в Донецке был аспирантом института литературы при Академии наук УССР. В 1957 году он устроился редактором в украинский журнал «Отечество». С 1959 Иван Дзюба был членом Союза писателей Украины (СПУ).
В начале 1960-х годов он начал интересоваться диссидентскими идеями, за что в конце концов был уволен из «Отчизны» в 1962. Через два года ему удалось устроиться на работу в издательство «Молодёжь», но уже в 1965 Дзюба был уволен из-за своих политических взглядов.
После этого Иван Дзюба написал письмо в ЦК КПУ и приложил к нему свой ставший впоследствии наиболее известным его сочинением трактат «Интернационализм или русификация?». В 1966 вызывался в ЦК, где ему было предложено написать прокоммунистическое произведение. Дзюба отказался.
До 1969 Дзюба не подвергался притеснениям со стороны советской власти, так как никогда до этого не выступал с критикой против неё как таковой, а только по отдельным пунктам. Однако в том году СПУ всё-таки решил исключить его из своих рядов. Но Дзюба выступил с покаянным заявлением 26.12.1969 и исключён не был.
И всё же с начала 1970 отношения между ним и властью окончательно испортились. У Дзюбы проводили обыски и водили на допросы. В 1972 был исключён из СПУ, а годом позже приговорён к пяти годам лишения свободы и пяти годам ссылки. Ввиду открытой формы туберкулёза, а также благодаря, в какой-то степени, письму в его защиту коллеги по писательскому цеху Николая Лукаша, Иван Дзюба в ноябре 1973 был помилован и выступил в «Литературной Украине» с покаянным заявлением, в котором отрекся от своих «прежних ошибочных взглядов» (9.11.1973).
В 1974 Ивану Дзюбе удалось найти работу в газете киевского авиазавода, где он проработал до 1982. После ухода из газеты он начал заниматься творчеством. Среди прочего Иван Дзюба написал «Стефан Зорян в истории армянской литературы» (1982), «Отчизна у нас одна» (1984), «Садриддин Айни» (1987), работы о Тарасе Шевченко, Борисе Чичибабине и др. Был восстановлен в Союзе писателей Украины и награжден Республиканской литературной премией имени О.Белецкого (1987).
В 1989 Иван Дзюба был одним из основателей Народного руха Украины — антикоммунистической организации и одной из старейших партий Украины.
С ноября 1992 по август 1994 он являлся министром культуры Украины.
После своего ухода из политики Дзюба занимается научной деятельностью.