El club se fundó en 1873, y sus primeros años estuvieron marcados por el alto porcentaje de victorias en sus partidos.
Fue la época en la que clubs del norte de Inglaterra decidieron profesionalizarse, divorciarse del Rugby Union, y crear la Rugby League con nuevas normas y profesionalismo.
Muchos de los jugadores de Gloucester Rugby emigraron al norte para jugar allí como profesionales en la nueva liga cuando el club reaccionó alineándose con la tendencia amateur.
Gloucester Rugby ha sido subcampeón de la Premiership en los años 1989, 1990, 2003 y 2007.
No fue en la Heineken Cup, sino en la segunda competición continental, la European Challenge Cup, donde Gloucester Rugby se hizo con su primer título europeo en la temporada 2005/06 derrotando a London Irish en la prórroga de la final por 36 a 34.