Aprende a tocar el piano con cinco años, y la trompeta con diez, estudiando en diversos centros como la Eastman School de Rochester (Nueva York) y la Juilliard School of Music, así como con diversos trompetistas, entre ellos Carmine Caruso.
A partir de 1965 toca y graba con diversos artistas, como Tito Puente, Maynard Ferguson, Joe Henderson, Clark Terry, Gil Evans...
En 1968 entra a formar parte del grupo de jazz rock Blood, Sweat & Tears, sustituyendo a Randy Brecker, con quienes permanece hasta 1973, año en que vuelve con Gil Evans, compartiendo la dirección artística de la banda con el líder, lo que le da un respaldo definitivo en el mundo del jazz.
Ya en el siglo XXI, Soloff mantuvo su colaboración con antiguos miembros de Blood, Sweat & Tears, como Larry Willis, Mike Stern o Lou Marini, además de músicos como Carla Bley, Teo Macero, Mark Egan o Hiram Bullock.
[2] En su estilo de improvisar era característica la organización de la melodía en largas frases, a menudo combinadas con trazos breves, con una sonoridad brillante, a veces tornada en brumosa que, en palabras del crítico Jean-Pierre Moussaron,[3] «evoca la escritura y universo del novelista Scott Fitzgerald».