Hizo su debut con el St Mirren el 26 de abril de 1975 y pronto se convirtió en titular del primer equipo, anotando 17 veces en la temporada 1976–77 y ayudando al club a ganar la Primera División escocesa.
[4] McGarvey jugó 245 veces con el Celtic durante cinco años, anotando 113 goles.
Sin embargo, el entrenador del Celtic, David Hay, había decidido que Mo Johnston y Brian McClair serían sus delanteros preferidos para la temporada 1985–86 y decidió no ofrecer una extensión de contrato a McGarvey.
[5] En junio de 1985, McGarvey se reincorporó a St Mirren por 80.000 libras esterlinas.
El Celtic estaba a la cabeza, pero la UEFA ordenó que se repitiera el partido en un lugar neutral y el equipo austriaco finalmente ganó la revancha en Old Trafford, Mánchester.
Dirigió al Queen of the South FC en la temporada de 1990/91.