Crecido en Nueva York, Miley aprendió a tocar el trombón y, más tarde, la corneta.

Tras ser desmovilizado militar, trabajó con el grupo formado por sus hermanas, "The South Carolina Trio", y, después, con la banda de Willie Gant.

En 1923 se incorpora a la orquesta "The Washingtonians", dirigida entonces por Elmer Snowden.

Cuando Duke Ellington se hace cargo de la misma (1924), Miley permanece con él cinco años más, viajando después (1929) a Europa con Noble Sissle y realizando diversas grabaciones con King Oliver, Jelly Roll Morton y Hoagy Carmichael.

A partir de 1930 trabaja con diversas orquestas, entre ellas la big band del violinista Leo Reisman, aunque la segregación racial imperante, y al tratarse de una orquesta blanca, le creará múltiples problemas.