[2]​ En 1960, sustituyó —por enfermedad— a Annie Ross en el trío que esta formaba junto con Dave Lambert y John Hendricks.

Bob Brookmeyer también toca el trombón, y establecieron una gran amistad.

Su segundo álbum, también para Columbia, se tituló Carol Sloane Live 34oth Street.

[4]​ Sloane no volvió a grabar hasta 1977, pero desde 1975 trabajaba cuatro años con el contrabajista George Mraz, el baterista Joe LaBarbera y con el pianista Jimmy Rowles, su pareja.

En 1988 graba el que está considerado como el mejor álbum de su carrera, titulado Love You Madly.