Tras formarse en el RSC Anderlecht, Dilbeek Sport y para el KAA Gent, finalmente subió al primer equipo de este último en 2010 por primera vez.
Permaneció en el club durante dos años, y tras no jugar ningún minuto, se fue traspasado en el mercado invernal de 2010/2011 al Cercle Brugge dirigido por Bob Peeters, quien fue el entrenador del equipo reserva del Gent cuando mertens jugaba en el club.
El 12 de febrero de 2011, Gregory Mertens hizo su debut tras ser el sustituto en el minuto 89 de Hans Cornelis en un partido contra el Anderlecht que acabó con derrota por 1-0.
En 2014 se fue traspasado al KSC Lokeren, y con el club ganó la Copa de Bélgica, llegando a jugar un minuto en la final contra el Anderlecht.
En un partido contra el KRC Genk el 27 de abril de 2015 Mertens sufrió una parada cardiorrespiratoria.