Mangione y su hermano pianista Gap, dirigieron el grupo The Jazz Brothers, con el cual grabaron 3 discos con Riverside Records.

Posteriormente se unió al grupo Art Blakey´s Jazz Messengers, ocupando el puesto de trompetista, siendo influenciado por grandes maestros como Clifford Brown, Kenny Dorham, Bill Hardman y Lee Morgan.

En 1980 la publicación Current Biography nombró a Feels So Good como la melodía más reconocida desde Michelle de The Beatles.

John's Nursing Home en su 60 Aniversario llevado a cabo en el teatro Estman en Rochester, Nueva York.

También ha tenido un rol recurrente en la serie de televisión animada del canal Fox llamada King of the Hill, caracterizándose a sí mismo como una celebridad para Mega Lo Mart.