[1] En 1962 tocó con Bill Dixon, con quien grabaría su primer disco a su nombre, Archie Shepp-Bill Dixon Quartet (Savoy Records, 1962), y ello le sirvió de experiencia para formar el New York Contemporary Five, quinteto donde estaban, además de Archie Shepp, Don Cherry, Don Moore, J. C. Moses y John Tchicai.
Después colaboró con John Coltrane en el nacimiento del álbum Ascension (Impulse!, 1965), junto con Freddie Hubbard, Marion Brown, Pharoah Sanders, McCoy Tyner, Elvin Jones y Jimmy Garrison.
En 1965 graba su obra maestra, el álbum Fire Music (Impulse!, 1965), de gran originalidad, sobre todo en sus variados solos.
Después grabó dos álbumes a dúo con el pianista Horace Parlan, Going Home y, en 1980, Trouble in Mind.
En la segunda mitad de los 70 vuelve musicalmente a la tradición, pero conservando una gran intensidad y su peculiar sonido.
[3] Las bandas que ha liderado han incluido a músicos como Charlie Haden, Ron Carter, Lars Gullin, Tete Montoliu, Niels-Henning Orsted Pedersen, Cedar Walton, Bernard Purdie, Wilton Felder, Hank Mobley, Harold Mabern, Cornell Dupree,[4] Bobby Hutcherson y Grachan Moncur III.