Estudió guitarra con Dave Van Ronk y con Reverend Gary Davis, a comienzo de los años 1960.

Instalado en Greenwich Village, se integró en una banda junto a Maria Muldaur, John Sebastian y David Grisman, que se llamó Even Dozen Jug Band, con quienes grabó un disco homónimo editado por Elektra Records, en 1964, y en el que tocaba la tabla de lavar.

También junto a Kooper, abandonará el grupo (1967) y formará parte de su nuevo proyecto jazz rock, Blood, Sweat & Tears, con quienes permanecerá hasta 1972.

Tras dejar la banda, produce el Rock n Roll Animal de Lou Reed.

Paralelamente mantuvo su carrera como instumentista, grabando discos con Al Kooper, tocando la armónica junto a Lynyrd Skynyrd (1973) y, sobre todo, con su propia banda American Flyer (American Flyer, 1976; Spirit of a woman, 1977, ambos producidos por George Martin).