Después, con el alias de Roy Elliott, forma su propia banda y trabaja con Horace Henderson, para acabar instalándose en New York.

Durante la década de los años 1930, trabaja sucesivamente con su hermano Joe, saxofonista, con los McKinney's Cotton Pickers y con Fletcher Henderson, además de actuar asiduamente bajo su propio nombre en clubs históricos como el Savoy o el Kelly's Stables.

En los años 1940, trabaja con Artie Shaw, Gene Krupa, Benny Goodman y los conciertos Jazz at The Philarmonic, junto a Coleman Hawkins.

A pesar de que su estilo se basaba más en la intuición y la exuberancia que en su técnica limitada, influyó de forma decisiva en trompetistas más jóvenes, como Gillespie o Miles Davis.

Con Count Basie Con Ella Fitzgerald Con Johnny Hodges Con Illinois Jacquet Con Gene Krupa y Buddy Rich Con Ben Webster Con Lester Young