Jimmy comenzó tocando el saxofón alto, pero influenciado por Charlie Parker durante su trabajo con Howard McGhee y Dizzy Gillespie a finales de 1940, recibió el apodo de "Little Bird" (el apodo de Parker fue "Bird") y se pasó al saxofón tenor.

Como docente, creó y dirigió el Programa de Jazz en el Queens College, a través del cual atrajo al campus a diversos músicos destacados como Donald Byrd.

Heath recibió el NEA Jazz Masters Award en 2003.

Heath es el padre del compositor y músico de R & B James Mtume.

[2]​[3]​ Como líder Con Continuum Mad About Tadd (1980, Palo Alto Records)