[1]​ Desde niño sintió interés por aprender a tocar la guitarra y siendo todavía adolescente se convirtió en miembro de la CBS Radio Orchestra.

Algunas de sus grabacione instrumentales se convirtieron en éxitos, como los temas creados para las películas Nunca en domingo y Los que no perdonan.

Los arreglos orquestales de Costa, en gran parte a base de cuerdas, fueron excepcionales, pero rara vez se le pidió que volviera a escribir algo en un estilo similar, durante su larga asociación con Sinatra, ya que el cantante se concentró en proyectos más contemporáneos.

Barbra Streisand usó estos mismos arreglos años más tarde para el tema "Snowbound", incluido en su seguno álbum navideño, publicado por Sony Music en 2001.

Costa estaba trabajando con Sinatra en Las Vegas cuando sufrió un infarto y tuvo que serle implantado un baipás coronario.

Tras recuperarse, comenzó a trabajar con Mike Curb en MGM Records, produciendo y arreglando material para Osmond Brothers así como colaborando en el tema de Sammy Davis, Jr.