[2]​ Gillespie se hizo famoso tocando la batería en la banda The Jesus and Mary Chain.

Durante sus días como batería, Gillespie continuó trabajando con Primal Scream, banda que formó con el guitarrista Jim Beattie en 1982.

En cualquier caso, Primal Scream no despegó realmente hasta la segunda mitad de 1986, cuando Gillespie abandonó definitivamente The Jesus And Mary Chain y los guitarristas Andrew Innes y Robert Young se unieron a la banda.

Para su tercer álbum, Screamadelica, Primal Scream no sólo trabajaron con Andrew Weatherall y Hugo Nicolson, la pareja que diseñó el sonido del álbum, sino también con The Orb y el antiguo productor de los Rolling Stones Jimmy Miller.

Una consecuencia negativa fue que afectó negativamente la reputación del grupo como innovadores, una situación ante la que reaccionaron con la canción Trainspotting, publicada en 1996 en la banda sonora de la exitosa película homónima, volviendo al estilo bailable de Screamadelica.

La banda continuó trabajando en su siguiente disco, titulado Vanishing Point, durante 1996, publicándose finalmente con críticas entusiastas en el verano de 1997.

Dos años más tarde, Primal Scream publicaron Evil Heat, un disco plagado de colaboraciones (hasta la supermodelo Kate Moss hace su aparición) en línea con XTRMNTR, y en 2006 salió Riot City Blues.