Cardiff Blues se fundó como heredero directo del Cardiff RFC, club que en 1996 había alcanzado la primera final de la Heineken Cup.
El año siguiente, Cardiff Blues acabó segundo en su liguilla durante la primera fase, no clasificándose para los cuartos de final de la Heineken Cup, pero sí para los de la Challenge Cup, segunda competición continental, que finalmente venció derrotando en la final al Toulon francés, logrando así Cardiff Blues su primer título europeo.
En el año 2009 el equipo alcanzó por primera vez la final de la Anglo-Welsh Cup, la antigua copa inglesa, una competición que desde el 2006 enfrenta a los 12 equipos de la Aviva Premiership inglesa y a los 4 equipos galeses de la United Rugby Championship.
En la final disputada en el Twickenham Stadium, Cardiff Blues derrotó con contundencia a Gloucester haciéndose con el título.
En la United Rugby Championship Cardiff Blues ha tenido buenas temporadas, quedando subcampeón en las temporadas 2006/07 y 2007/08, aunque no ha logrado ningún título hasta la actualidad.