Comenzó a cantar de niño, inspirado por Bad Company, Deep Purple y Led Zeppelin.
En 1985 se incorporó a Terrified, grupo del baterista Bobby Rondinelli, militando durante un año, grabando un disco que, sin embargo, fue editado en 1996.
Esta brecha se remediará con su reemplazo Tony Martin, quien volvió a grabar las voces en el disco.
Raymond Arthur "Ray" Gillen nació en Nueva York el 12 de mayo del año 1959.
En 1986, Black Sabbath comenzó la gira del álbum Seventh Star cuando, tras sólo unos pocos conciertos, el cantante Glenn Hughes se metió en una pelea a puñetazos y perdió la voz debido a las lesiones relacionadas con la sinusitis y la garganta.
Tras finalizar la gira Seventh Star, Black Sabbath grabó su siguiente álbum The Eternal Idol con Gillen.
Sin embargo, debido a una mezcla de carga financiera, dificultad para escribir (Bob Daisley fue reclutado para escribir ya que Gillen resultó no ser un gran compositor), mala gestión y mala comunicación que plagó la banda, Gillen y el baterista de Black Sabbath Eric Singer renunciaron antes de que el álbum fuera lanzado.
Gillen cantó demos pero se separó cuando Sykes decidió encargarse él mismo de las voces.
Lee y reclutó a su amigo Eric Singer con quien había tocado en Black Sabbath.
Gillen ensayó con el grupo durante varios meses antes de volver a su Nueva York natal.
Lee, que había sido el guitarrista de Ozzy Osbourne y forman la banda Badlands, junto a Eric Singer, su antiguo compañero en Black Sabbath.
Lee también afirmó que no había sido consciente del diagnóstico de sida de Gillen hasta una reunión con el entonces mánager de Badlands Paul O'Neill, que iba a contarle a Atlantic Records su enfermedad si lo despedían, y Gillen supuestamente le dijo a Lee: "Bueno, no es verdad, así que se joda.