En 1959, grabó una versión del éxito de Ray Charles, "Hallelujah, I Love Her So" como solista.

Formó el grupo The James Cleveland Singers, que incluía a Odessa McCastle, Georgia White, Eugene Bryant y Billy Preston.

Otros cantantes se sumaron en años posteriores fueron Marva Hines, y la reconocida soprano solista, Cleo Kennedy.

El coro también colaboró en la grabación de numerosos álbumes para artistas como Aretha Franklin, Kansas, Elton John y Arlo Guthrie.

[6]​ El álbum fue grabado en vivo en la New Temple Missionary Baptist Church de Los Ángeles y contó con la colaboración del Southern California Community Choir.

Otras interpretaciones góspel memorables fueron "I Write the Songs" de Barry Manilow y "Didn't We Almost Have It All" de Whitney Houston, conocida como " Aren't You Glad You Know the Lord ".