Shaw demostró una gran capacidad, con oído absoluto y memoria fotográfica, y como resultado de ello sus profesores lo inscribieron dos cursos por delante del que le correspondía por edad en el Arts High School, una institución por donde habían pasado nombres tan notables como los de Wayne Shorter, Sarah Vaughan o Larry Young.

En tal compañía, el trompetista frecuenta Londres y Berlín, pero en 1964 decide regresar a Estados Unidos, para unirse al quinteto del pianista Horace Silver, con quien permanece durante el bienio 1965-66.

Durante el resto de la década trabaja con Chick Corea (1966-67) , Jackie McLean (1967), Booker Ervin (1968), McCoy Tyner (1968), Max Roach (1968-69) y Andrew Hill (1969).

[1]​ La década de los 70 se inicia con colaboraciones con Pharoah Sanders, Hank Mobley, Gary Bartz, Archie Shepp o Joe Henderson, quien lo contrata para su quinteto en 1970.

Desde ese año y hasta 1983, Shaw mantiene un quinteto relativamente estable, que incluía, entre otros, al trombonista Steve Turre y al pianista Mulgrew Miller, pero a partir de esa fecha se suceden numerosos formaciones en las distintas agrupaciones bajo su nombre.