Mayhew creció en Ipswich junto a su hermano Paul quien era unos diez años mayor que el.
Luego de eso vio muy poco a su hermano, que se quedó con su madre.
Mayhew se unió a Genesis en el verano de 1969 para reemplazar al baterista saliente John Silver, que decidió dejar el grupo para matricularse en la Universidad de Cornel en los Estados Unidos para comenzar con sus estudios.
Mayhew había dejado su teléfono por todo Londres hasta que alguien se lo pasó a Mike y este decidió llamarlo.
Instaló revestimiento y asientos adecuados en el transporte de la banda, una furgoneta que anteriormente había sido utilizada para repartir pan, así como también construyó la caja para un altavoz casero Leslie, que normalmente no se utilizaba en las actuaciones en vivo.
Mayhew permaneció con Genesis hasta su salida en julio de 1970, cuando fue reemplazado por Phil Collins.
En 1982, se mudó a Australia, donde eventualmente consiguió trabajo como carpintero, habiendo obtenido la ciudadanía australiana.
Paradójicamente, su hermano Paul que lo había estado buscando por tanto tiempo, nunca pudo reencontrarse con John.