[1]​ Empezó su carrera a los 12 años tocando el saxo alto en la banda del Booker T. Washington Community Center de Louisville, pero en seguida cambió el saxo por la trompeta, con la que rápidamente alcanzaría un alto nivel.

Instalado en Nueva York, Jonah Jones se incorporó en 1931 a la big band de Jimmie Lunceford, aunque ese mismo año se iría con el grupo del violinista Stuff Smith, y se quedaría con él hasta 1940, con algún periodo intermedio en la banda de Lil Hardin.

Durante siete años, Jonah Jones hizo innumerables giras con su propio cuarteto y grabó para el sello Capitol un gran número de discos de mucha proyección; obtuvo un Emmy en 1960.

En 1999, un año antes de su muerte, fue incorporado en el Big Band and Jazz Hall of Fame.

Se especializó en baladas, y obtuvo gran éxito con ellas.