Comenzó su carrera en la década de 1960 con el grupo Spice, junto a quienes serían sus compañeros en Uriah Heep, Mick Box, Paul Newton y Alex Napier.

Fundó Uriah Heep junto a Box y Ken Hensley en 1969, con quienes grabó discos clásicos de grupo, como Very 'eavy... Very 'umble (1970), Salisbury (1971), Look at Yourself (1971), Demons & Wizards (1972), Sweet Freedom (1973), Wonderworld (1974), Return to Fantasy (1975), High and Mighty (1976).

En 1977 formó parte del grupo Rough Diamond, y al año siguiente publicó su segundo álbum en solitario, Baby Faced Killer.

Su último trabajo, de 1981, fue con su grupo Byron Band, titulado On the Rocks.

Byron falleció prematuramente en 1985, a los 38 años, en Reading, Inglaterra.