Ya con 18 años, en 1924, comienza a grabar discos como líder de su propio grupo, los Bucktown Five.
En 1938, se incorpora a la orquesta de Ray Miller, con quien actúa en radios y grabas varios discos.
Con la banda de Lewis, graba discos, realiza giras incluso por Europa y participa en un cortometraje.
Entre 1936 y 1938, toca con Ben Pollack y, después, forma su propio grupo, The Ragtime Band, una de las bandas más decisivas en el revival del dixieland de los años 1940.
Spanier fue, como instrumentista, un aventajado alumno de King Oliver y Louis Armstrong, con un estilo muy negro, especialmente con la sordina, y representante principal del llamado Estilo Chicago.