En su Bronx natal residió junto a una sinagoga judía, y la música que escuchaba en las fiestas lo marcó de por vida.

Comenzó sus estudios musicales con el clarinetista Joe Allard para luego inscribirse en el New England Conservatory en Boston; una vez allí estudió con George Russell.

Además interpretó la banda sonora en el film Kansas City dirigido por Robert Altman y en Lulu on the Bridge de Paul Auster.

Byron es miembro de The Black Rock Coalition, y realizó grabaciones con Uri Caine, Vernon Reid, Bill Frisell, Cassandra Wilson, Daniel Barenboim, Joe Henry, entre otros.

Byron fue nominado al premio Grammy por su solo de clarinete I Want to Be Happy del disco Ivey-Divey.