Aprende a tocar la trompeta, tras recibir clases de violín y, aún adolescente, ya toca en la banda de su padre, y más tarde en la "Excelsior Band" (1924).

Definitivamente asentado en Nueva York en 1929, publica sus primeros discos como líder y se incorpora a la big band de Luis Russell, con quien permanece hasta 1932.

Tocará después en las orquestas de Fletcher Henderson y Charlie Johnson hasta que, en 1934, consigue un gran éxito con una grabación realizada con el grupo "Mills Blue Rhythm Band" (Ride, Red, Ride).

Grabó un gran número de discos, con músicos como Fats Waller, Victoria Spivey, Billie Holiday, Coleman Hawkins y muchos otros.

En los años 1950, desarrolla especialmente su trabajo con el registro grave del instrumento, con gran maestría.