Originaire de la ville de Timmins, dans le nord de l’Ontario, Joe Sullivan a commencé sa formation musicale durant son enfance et, plus tard, à l’âge de quinze ans, a découvert la trompette. En 1981 il a obtenu un Baccalauréat à l’Université d’Ottawa, ou il a étudié la trompette classique. Son désir d’explorer le monde du jazz l’a mené à poursuivre son cheminement scolaire, d’abord à l’école de musique Berklee à Boston, puis au New England Conservatory of Music, aussi à Boston, où il a obtenu une Maîtrise en Interprétation Jazz en 1987. Depuis ce temps, il est actif comme professeur (Mcgill, Concordia, Cegep Vanier) comme trompettiste, compositeur, arrangeur et chef d’orchestre.