Williams tocó el clarinete clásico durante diez años, para después pasarse al saxofón cuando cursaba su último año en el instituto, influido por músicos como Eric Dolphy, John Coltrane y Charlie Parker.

En principio iba a ir de gira con los Furs un mes por Australia en 1983, como sustituto temporal del saxofonista de gira Gary Windo debido a que este no pudo viajar.

Según Rock Scully, mánager del grupo Grateful Dead, Williams actuó en conciertos esporádicos organizados en el Blues Bar (un club after hour en Tribeca regentado por los integrantes de Saturday Night Live Dan Aykroyd y John Belushi durante su presencia en dicho programa a finales de los 70) junto a estrellas del rock de los años 60 como Rick Danko y Bill Kreutzmann.

[5]​ Williams ha grabado e ido de gira con Peter Brötzmann, Vandermark 5, Cinghiale, Our Daughter's Wedding y Mark Freeland's Electroman.

[9]​ Con Boneshaker (Mars Williams, Paal Nilssen-Love, Kent Kessler) Con NRG Ensemble Con Liquid Soul Con Switchback (Mars Williams / Wacław Zimpel / Hilliard Greene / Klaus Kugel) Con Harrison Bankhead Con Peter Brötzmann Con Hal Russell / NRG Ensemble Con Ken Vandermark Con The Swollen Monkeys Con The Luck of Eden Hall (Alligators Eat Gumdrops, ltd edition 200, 2012) Con Custard Flux