Jugó en el Dundee United, Aston Villa, Wolverhampton Wanderers, Everton, Aston Villa, Notts County (cedido), West Bromwich Albion, Rangers y Cheltenham Town.

Gray se mudó al Everton en noviembre de 1983 por 250.000 libras esterlinas.

También llegó a otra final de la Copa FA, pero esta vez estuvo en el lado perdedor cuando el Everton fue derrotado por el Manchester United.

Marcó cinco goles en 35 partidos de liga en 1985-86 cuando Villa evitó por poco el descenso a Segunda División, y la temporada siguiente no marcó en 19 partidos de liga cuando Villa cayó a Segunda División.

Comenzó la temporada 1987-88 todavía con Villa, pero fue transferido a sus rivales locales West Bromwich Albion en septiembre de 1987 sin haber aparecido en un partido del primer equipo de Villa esa temporada.