En 1937 se traslada a Chicago para realizar varias sesiones de grabación, incluido su clásico «Shake 'em on down», que fue un gran éxito comercial.

Condenado ese mismo año por su participación en una pelea, en 1939 Alan Lomax lo encontró en la penitenciaria de Parchman Farm y le grabó varios temas autobiográficos.

Después, ya libre, regresó a Chicago, tocando con Washboard Sam, grabando en 1940 el que, para la mayoría de los autores, sería su obra maestra, «Fixin' to die».

Tras servir en el ejército durante la Segunda Guerra Mundial, White se instaló en Memphis (1944) y abandonó la música en público, trabajando de chatarrero.

En los años 1960, unos guitarristas jóvenes investigaron su paradero y consiguieron localizarlo, relanzando su carrera, ya en grandes escenarios, especialmente en el American Folk Blues Festival, donde tocó con Son House, Sonny Terry, Brownie McGhee y Hound Dog Taylor, entre otros, grabando un buen número de nuevos discos.