También estuvo en las orquestas de Bing Crosby, Artie Shaw, Art Hodes y Glen Gray.
[1] Después de su paso con Shaw, fue contratado por Mitch Miller en 1954, entonces director de A&R en Columbia Records, como arreglista en casa, trabajando con varios artistas como Rosemary Clooney, Marty Robbins , Frankie Laine, Johnny Mathis, Guy Mitchell y Johnnie Ray.
Conniff comentó: "Una vez estaba grabando un álbum con Mitch Miller, teníamos una big band y un coro pequeño.
Decidí que el coro cantara junto con la big band usando letras sin palabras.
Debido al éxito de sus arreglos de acompañamiento y al nuevo sonido que creó Conniff, Miller le permitió hacer su propio disco, y este se convirtió en el exitoso Wonderful!
II (1960), Say It With Music (1960), Memories Are Made of This (1960, álbum de oro) y Continental (1962).
Archie Bunker's Place en CBS con un pequeño conjunto, solo de trombón y piano honky-tonk.
Aunque no se destacó por una producción original, su estilo particular fue suficiente para ser aceptado por una gran audiencia.
Popularizó el tema principal de la película Doctor Zhivago (1965), "Lara's Theme", una composición de Maurice Jarre que Conniff convirtió en todo un éxito pop con el título "Somewhere My Love", y por la que obtuvo un Grammy en 1966.
En 1997, después de estar algo más de cuarenta años ligado personal y profesionalmente al sello Columbia Records, Ray Conniff firmó un nuevo contrato con PolyGram, multinacional con la que grabó tres álbumes: Ray Conniff Live in Rio, I Love Movies y el tributo a Frank Sinatra titulado My Way.
Su afición por la música hispanoamericana lo llevó a incluir grandes clásicos considerados iconos como: "Bésame mucho", "La Bamba", "El día que me quieras", "Frenesí", "Aquellos ojos verdes", "Perfidia", "Brasil", "La Múcura", "Tico Tico, "El cóndor pasa" y "Caballo viejo", entre muchos otros.
También grabó varios éxitos del famoso cantautor Camilo Sesto en los años 1980 y tocó en vivo con su orquesta y un coro de ocho personas en grandes estadios de fútbol como en Viña del Mar.
Su lápida lleva una partitura musical con las primeras cuatro notas de "Somewhere My Love".