Inició su carrera profesional jugando para el VfL Bochum durante la temporada 2004/05.

Antes del inicio de la temporada 2005-06, se unió al recién ascendido Colonia, Matip firmó un contrato de 4 temporadas con el club que se extendió hasta el final de la temporada 2010/11.

En el año 2010 es prestado con opción de compra al club Karlsruher SC.

En el año 2007 es convocado para jugar en la Selección de fútbol de Camerún, sin embargo su debut se retrasó debido a que no presentó su documentación a tiempo.

Su padre Jean es un exfutbolista y su hermano Joël Matip actualmente juega en el Liverpool FC de la Premier League.