Su primer trabajo en el mundo del jazz, lo obtiene con Gigi Gryce y, enseguida, con Roy Haines y Red Garland (1958).
Tocará y grabará durante unos meses con John Coltrane (1960), y después con músicos de hard bop, entre ellos Art Blakey (realizará varias giras por Europa y Japón con los Jazz Messengers), James Moody, Yuseef Lateef, Wayne Shorter y Freddie Hubbard.
Workman se convierte en uno de los contrabajistas más solicitados para las sesiones de grabación del sello Blue Note, y para grupos de gira internacional (Herbie Mann, Thelonious Monk, Alice Coltrane, Jazz Composer's Orchestra de Mike Mantler y Carla Bley, etc.).
A partir de la década de 1970, Workman dedica cada vez más esfuerzos a la enseñanza y a la música electrónica, aunque continúa actuando, con Sonny Fortune o Max Roach, y grabando, por ejemplo con Dee Dee Bridgewater, un disco en dueto asombroso, a lo largo de la línea de vanguardia.
[1] Sin embargo, hasta 1986 no registró el primer disco a su nombre.