Родился в 1360 году по одной версии в семье болгарского царя Ивана Шишмана и его жены Сары. Однако, так как Иван Шишман рожден около 1350 года, версия о его отцовстве несостоятельна. О раннем периоде жизни Иосифа известно мало, только то, что он был монахом на Афоне.
Иосиф был очень стар и болен и умер уже через 2 месяца — 10 июня 1439 года. Его смерть вызвала печаль всех присутствующим на заседании Собора, поскольку он был ревностным сторонником церковной унии. Был похоронен в доминиканской монастырской церкви Санта-Мария-Новелла во Флоренции со сложным фресковым портретом в полу-византийском стиле.
Его преемником на посту Патриарха Константинополя стал Митрофан II, который был назначен императором Иоанном VIII по причине его аналогичной про-унионистской позиции.