Para muchos, Sims es la esencia misma del swing con su instrumento principal, que emplea con una acusada influencia de Lester Young.

En aquella época conoció la música de Jimmy Giuffre, que siempre ejerció en él una gran[2]​ influencia.

En los años sesenta destaca su participación en 1966 en el grupo "Titans of the Tenors", junto a John Coltrane, Coleman Hawkins, y Sonny Rollins.

En 1974 realizó una gira por Escandinavia junto a Al Cohn y en 1975 con el guitarrista Buck Pizzarelli formó un grupo que duró varios años.

Con Pepper Adams Con Trigger Alpert Con Chet Baker Con Louis Bellson Con Clifford Brown Con the Kenny Clarke/Francy Boland Big Band Con Al Cohn Con Eddie "Lockjaw" Davis & Oscar Peterson Con Art Farmer Con Curtis Fuller Con Quincy Jones Con Stan Kenton Con Jack Kerouac Con Carmen McRae Con the Metronome All-Stars Con Charles Mingus Con Jack Montrose Con Gerry Mulligan Con Oliver Nelson Con Anita O'Day Con Lalo Schifrin & Bob Brookmeyer Con Shorty Rogers Con Sonny Stitt Con Clark Terry Con Sarah Vaughan Con Phoebe Snow Con Joe Williams