Además de Bill Gaither, los cantantes con más antigüedad en la banda son Guy Penrod (1995-2008), Mark Lowry (1988-2002, 2009-13), Michael English (1985-94, 2009-13), David Phelps (1997- 2005, 2009-17) y Wes Hampton (2005-presente).

Según Bill Gaither, el cantante de bajo Lee Young, se inició como un cuarteto absolutamente improvisado al calor del momento previo de un concierto, en el que diversos exponentes del Góspel tuvieron parte, entre ellos Bill Gaither, Gary McSpadden, el tenor Steve Green y el propio Young, quienes se unieron para interpretar la canción First day in heaven e integraron posteriormente el cuarteto original en 1980.

Posteriormente, luego del retiro de Steve Green, el primer tenor Larnelle Harris fue contratado como su sucesor, lanzándose el tercer disco del grupo, The New point Of View, poco antes de que Jon Mohr abandonara el cuarteto.

En este punto The New Gaither Vocal Band sufrió una renovación, cambiando el nombre del cuarteto al que tiene en la actualidad.

En 1988 se editó el disco Wings antes de que Gary McSpadden dejara el grupo para dedicar más tiempo a su carrera en solitario.