Перед избранием на патриарший престол был митрополитом эфесским. После избрания поддержал византийского императора Иоанна VIII в его попытке воссоединения Православной и Римско-Католической Церквей. Вместе с императором посетил Флорентийский собор и умер в Италии в 1439.
В 1437 Иосиф отказался поставить на русскую митрополию рязанского епископа Иону, а поставил отрешенного потом Исидора.