Empezó su carrera profesional en 1912, tocando en clubs de Atlantic City.

Esa actividad se vio interrumpida por su llamamiento a filas durante la Primera Guerra Mundial.

A su vuelta a Nueva York, continuó tocando en clubs, participó en varias grabaciones y tocó frecuentemente en comedias musicales.

Actuó y grabó con un gran número de músicos, entre los que destacan los siguientes: Smith hizo diversas giras por Europa: en 1949, 1950, 1965 y 1966.

Smith trabajaba ese estilo con un potente swing.