Desde su adolescencia, White recorrió el estado acompañando, como lazarillo, a diversos músicos ciegos: Blind Lemon Jefferson, Blind Joe Taggart, Willie Walker... De ellos aprendió a tocar la guitarra.
Én esta época, además, adoptó una conciencia política, consecuencia de su contacto con el segregacionismo, los linchamientos y el desprecio cotidiano, que le llevó a militar activamente en el Partido Comunista Americano durante la década de 1930.
En 1935 llega a Nueva York y se une al grupo de folk del río Hudson, junto a Woody Guthrie, Burl Ives o Cisco Houston, todos ellos blancos norteños, aparte de frecuentar a bluesmen como Sonny Terry.
En 1940, una grabación de White, producida por John Hammond, muy política y con gran éxito entre el público folk, le acarreó su condena a muerte por el Ku Klux Klan, que incendió su casa y le obligó a suspender un gran número de conciertos.
A partir de 1955, y sobre todo en los años 1960, White se aleja cada vez más del blues, para integrarse plenamente en el folk, junto a músicos como Pete Seeger, aunque aún realiza grabaciones de blues con Sonny Boy Williamson II y otros.