Durante su adolescencia, pudo acompañar ya a músicos como Miles Davis y Charlie Parker.

Tras una breve estancia en Los Ángeles con la orquesta de Rahsaan Roland Kirk en 1962, Hill regresó a Nueva York donde comenzó sus grabaciones más importantes.

En ellas, trabajó con los mejores músicos de la era post-bop, como Eric Dolphy, Joe Henderson, Woody Shaw, Tony Williams y Freddie Hubbard.

Hill se trasladó luego a la Costa Oeste, enseñando en escuelas públicas y en prisiones de California.

En 2000, Palmetto Records editó Dusk, que fue galardonado como el mejor disco de 2001 por las revistas Down Beat y Jazz Times.