No debe confundirse con Captain John Handy (1900-1971), clarinetista y saxofonista de Nueva Orleans.
John Handy comenzó a destacar en los grupos de Charles Mingus (1958), y Randy Weston (1959), trasladándose después a la costa oeste, a San Francisco, donde lideró diversos cuartetos y quintetos, que incluían a músicos como Bobby Hutcherson o Pat Martino.
En los 80, forma el quinteto Bebop and Beyond, con el pianista George Cables y se dedica, preferentemente, a la enseñanza.
Comenzó tocando el saxo alto, pero con el tiempo fue conformándose como un multi-instrumentista (saxo barítono, flauta, oboe, piano, percusión ...).
Todo en él, estaba al servicio de la melodía: los recursos técnicos, las tramas armónicas, el uso de la variación como concepto; e, incluso, el propio timbre y el vibrato, que da una consistencia especial a cada nota de cada frase.