Comenzó como violinista de música clásica prodigio, aunque cambió al jazz debido principalmente a las pocas oportunidades para músicos estadounidense negros, en el ámbito de la música clásica de la época.
Comenzó su carrera tocando en espectáculos vaudeville y con orquestas de jazz de Chicago, como las bandas de Freddie Keppard, Jimmy Wade, Charles Elgar y Erskine Tate.
En 1927 comenzó su propio grupo, "Eddie South and his Alabamians" nombrado así en honor al Club Alabama, lugar de Chicago dónde se reunían a tocar.
En visitas posteriores al "Viejo Continente", ya en la década de 1930, Eddie tocó y grabó con el guitarrista Django Reinhardt y los violinistas Stéphane Grappelli y Michel Warlop.
También dirigió bandas que incluyeron a jóvenes músicos como el pianista Billy Taylor y el bajista Milt Hinton.