Fue el primer trombonista en abrazar el bop y se mantuvo luego de forma ininterrumpida como una de las principales figuras del jazz posterior al swing, ejerciendo una importante influencia en otros músicos de jazz.
[2] Johnson fue uno de los primeros músicos del jazz moderno que se hicieron famosos durante la década de 1940 y destacó especialmente como representante de la llamada tercera corriente, que fusionaba la música clásica con el jazz.
Johnson colideró un quinteto con el trombonista Kai Winding que realizó largas giras y grabó varios discos exitosos.
Varias de sus composiciones, entre ellas "Wee Dot", "Lament", y "Enigma" son consideradas estándares del jazz.
En 1970 dejó de tocar en público, algo que mantendría durante 17 años hasta su retorno a finales de los años 1980.