Fue capitán de los Rangers en nueve temporadas consecutivas y fue internacional absoluto por Escocia, tuvo un breve paso como entrenador en el Livingston.

Buscando construir una carrera en el fútbol británico, Gough firmó para Charlton Athletic FC como profesional aprendiz en julio de 1978.

Jugó para Dundee United durante seis temporadas, terminando con 23 goles en 165 apariciones y ayudándoles a conseguir el título de Liga en 1982-83.

Gough se mantuvo en Ibrox hasta 1997, capitaneando al equipo que logró nueve títulos de Liga consecutivos.

Jugó dos temporadas en Goodison Park haciendo 60 apariciones y anotó una vez contra Southampton.