Olsson ha compuesto, grabado y producido discos para su propia carrera en solitario.

Comenzó su carrera musical tocando la guitarra en pequeñas bandas, y tomó la batería en un concierto donde el baterista no apareció.

Boyd" b/w "Imagine" de Argosy, Elton John), Caleb Quaye y Roger Hodgson.

Posteriormente, tocó la batería en una canción en el álbum debut de Elton John, Empty Sky, y luego se convirtió en miembro de The Spencer Davis Group con el bajista Dee Murray.

Los álbumes incluyen: Honky Chateau, Don't Shoot Me I'm Only the Piano Player, Goodbye Yellow Brick Road, y Caribou.

Olsson continuó trabajando como músico de estudio, lanzando otro álbum homónimo producido por Paul Davis en Columbia en 1978.

"Dancin 'Shoes" fue originalmente escrito por Carl Storie, y grabado por primera vez por su Faith Band.

Olsson también canto en la producción de Davey Johnstone and Guy Babylon para Addison Steel Stormy Blue.

Kiki Dee cantó la voz principal en "Naked Without You", y el hermano de Olsson, Kai, cantó la voz principal de McGuinness Flint, "When I'm Dead and Gone".

Con el bajista Matt Bissonette reemplazando al fallecido Bob Birch en 2012, esta banda grabó Wonderful Crazy Night en 2015 para su lanzamiento en febrero de 2016.