La vida d’aquest sant grec va ser de tot menys tranquil·la. Va abandonar la seva Sicília natal quan va ser envaïda pels àrabs i es va fer monjo a Constantinoble. Durant la crisi iconoclasta es volia exiliar a Roma, però abans d’arribar-hi va ser capturat per uns pirates. Quan va poder escapar sant Josep l’Himnògraf va tornar a Constantinoble, on va fundar un monestir. Tanmateix, a causa de noves disputes teològiques i polítiques es va haver de tornar a exiliar. Finalment, va poder tornar, ara sí definitivament, a terres bizantines i va ser nomenat bisbe de Tessalònica. Malgrat totes aquestes peripècies, Josep va escriure poemes i himnes litúrgics, unes 1.000 composicions en total, algunes de les quals encara avui són cantades en la litúrgia oriental.