Иоанн был старшим сыном Мануила II и Елены Драгаш. С 1421 года соправитель отца (в ранге автократора). При Иоанне в 1428—1432 г. практически вся Морея возвратилась под власть ромеев. Только четыре города: Аргос, Навплий, Корон и Модон оставались под властью венецианцев. Но гораздо более известности Иоанн приобрел тем, что его усилиями и стараниями был доведён процесс соединения западной и восточных церквей. Император понимал, что без унии с католиками, Византийская империя не получит помощи с запада и будет неминуемо завоевана османскими турками, чьи владения после договора 1424 года продвинулись к самим предместьям Константинополя.
В 1437 году вместе с патриархом и представителей делегацией православных архиереев Иоанн отправился в Италию и провел там более двух лет безвыездно, сначала в Ферраре, а потом на Вселенском соборе в Флоренции. По инициативе императора делегацию православных в спорах с католиками возглавил Марк Эфесский, возведённый по указанию Мануила незадолго до отъезда из Константинополя в сан митрополита. Не раз на этих заседаниях обе стороны заходили в тупик и готовы были разьехаться. Но император запретил своим епископам покидать собор до принятия компромиссного решения. В конце концов, православные делегаты были вынуждены уступить католикам почти по всем принципиальным вопросам.
Подписанная 5 июля 1439 года уния, если была не полной, то значительной победой католиков. Но ожидаемого облегчения эта уступка не принесла. Другие православные церкви, в первую очередь русская, отказались принять унию. А в самой империи уния породила раскол и смуту.
Между тем, армия западных крестоносцев, выступившая в поход по призыву римского папы, потерпела в 1444 году под Варной ужасное поражение от турок. Через четыре года после этого пришло известие о завоевании турками Сербии. Иоанну стало совершенно очевидно, что следующая на очереди — ромейская держава. Но сам Иоанн не дожил до того момента — он умер 31 октября 1448 года.
Несмотря на три брака, Иоанн остался бездетным. Трон унаследовал его брат Константин XI Палеолог.