Sabino è un vescovo vissuto tra la fine del secolo V e la metà del VI. Di lui prima dell’episcopato non si sa praticamente nulla: pare che succeda come vescovo di Canosa di Puglia a Memore nel 514. Lo si ritrova con altri vescovi nel 531, accanto a Bonifacio II nel Sinodo romano di quell’anno; oltre ad essere un campione di virtù, deve essere molto saggio e uomo di dottrina, visto la missione di grande importanza che gli ha affidato il papa Agapito.
Sabino è inviato come capo di una commissione di vescovi, nel 535 a Costantinopoli, su invito dell’imperatore Giustiniano, per constatare, dibattere e condannare l’eresia monofisita del patriarca Antimo, la sua rimozione e la sostituzione con il nuovo patriarca Mena. Papa Agapito che è giunto personalmente per evitare conflitti, muore sul luogo il 22 aprile 536; tocca a Sabino e agli altri vescovi continuare nell’opera, affiancando il patriarca Mena nel sinodo da lui indetto nel 536, da cui scaturisce la condanna definitiva di Antimo, Severo, Zoara e dei loro discepoli monofisiti.
San Gregorio Magno racconta che Sabino è solito visitare San Benedetto a Montecassino, a cui porta sincera amicizia, in una di queste visite disse a San Benedetto che è preoccupato per l’ingresso di Totila re degli Ostrogoti in Roma (dicembre 546) ricevendo come risposta che Roma si sarebbe disfatta da sé per altre vie. Ed è con Totila che si verifica l’episodio in cui il re barbaro in giro nel Meridione, in una delle sue incursioni, arriva a Canosa e invitato a mensa dal santo vescovo, ormai vecchio e cieco, vuole provarne lo spirito profetico, offrendogli lui stesso del vino al posto del servo, Sabino chiamandolo per nome lo ringrazia. Anche un ambizioso arcidiacono, gli prepara una bevanda avvelenata, ma il vescovo lo scopre e dice al servo che gli porge la coppa: “Io berrò il veleno, ma egli non sarà vescovo”. Sabino rimane incolume e l’altro proprio allora si accascia al suolo morto.
Dopo circa 52 anni di episcopato, il santo vescovo muore il 9 febbraio del 566. La città di Canosa di Puglia lo venera come suo patrono, ma anche Bari gli tributa grande culto, venerandolo come compatrono insieme a San Nicola. Bari eredita dall’XI secolo la sede episcopale, fino allora dipendente da Canosa.