Se inició en el blues de la mano del armonicista Paul Butterfield, con quien colaboró durante varios años.

Posteriormente tocó junto a Bob Dylan y Al Kooper, además de sus propias bandas, entre las que destaca The Electric Flag.

Convertido en "superestrella del rock" durante los años 1960, acabó en el olvido a mediados de la década de 1970, en parte por su adicción a la heroína, en parte por las dificultades que su artritis presentaba para continuar tocando.

Finalmente en 1981 fue hallado muerto por sobredosis dentro de su coche, en un aparcamiento.

[1]​ Su disco más destacable, desde una perspectiva blues, es "Cruisin' for a bruisin'", editado por Takoma Records, aunque el más conocido y exitoso es "Supersession".