[1]​[2]​[3]​ Johnson tocó inicialmente la batería y el piano antes de cambiar al saxofón tenor.

En la década de 1920 actuó en Texas y otras partes del Medio Oeste, trabajando con Jesse Stone, entre otros.

Johnson también fue una de las primeras figuras en la época del bebop, haciendo sesiones con Coleman Hawkins en 1944.

Su nieto, Albert Johnson (también conocido como Prodigy), era miembro del dúo de hip-hop Mobb Deep.

[4]​ Con Cannonball Adderley Con Count Basie Con Ruth Brown Con Duke Ellington y Count Basie Con Gil Evans Con Dizzy Gillespie Con Earl Hines Con Etta Jones Con Quincy Jones Con Jimmy McGriff Con Carmen McRae Con Bud Powell Con Carrie Smith Con Jimmy Smith Con Sonny Stitt Con Clark Terry Con Ben Webster Con Randy Weston