Se inició en el Hannover 96 de su ciudad natal, donde haría su debut en el fútbol profesional.Mertesacker en ese momento no fue visto como un talento excepcional y con frecuencia pensaba en cambiar de deporte.Llevó a cabo su servicio civil durante su aprendizaje en el fútbol profesional en un centro para personas con discapacidad en Hannover.Tuvo un desafortunado inicio en su club local pues se rompió la nariz y realizó un autogol poco después, pero pronto logró establecerse como uno de los defensores más prometedores de la Bundesliga alemana.Bremen fue el subcampeón de la Bundesliga con 10 puntos menos que el campeón Bayern Múnich.Per comenzó la temporada 2009/10 jugando en la aplastante victoria por 5–0 ante el Union Berlin por la Copa de Alemania.Anotó en octubre su primer gol en la temporada ante el Hoffenheim (2-0) y empató el partido en el último minuto ante el Bayer Leverkusen en febrero.Tuvo un promedio de 46.3 passes por juego, el tercer más alto del Bremen y el segundo porcentaje con más éxito (82%), mostrando que su juego no solo trata de ganar en los cabezazos.Se le asignó la camiseta número 4 que dejó el excapitán Cesc Fàbregas.[2] Desde entonces no volvió a jugar en todo lo que quedó de la temporada.[3] El 6 de marzo, volvió a anotar otro tanto, en White Hart Lane ante Tottenham.Debido a las bajas por lesión de Thomas Vermaelen y Mikel Arteta, Mertesacker portó la cinta de capitán en el debut del Arsenal en la Premier, partido que acabó con derrota por 3-1 ante el Aston Villa y siguió siendo el capitán del equipo por varias fechas.Con sus tranquilas pero efectivas actuaciones, terminó convirtiéndose en titular indiscutible en la zona defensiva, compartiendo la parte central con Robert Huth, Christoph Metzelder y más adelante, Heiko Westermann y Arne Friedrich.Después de que Alemania venciera a Argentina en la definición por penales, Mertesacker fue atacado por Leandro Cufré quien le propinó una patada.De todas manera dejó una gran impresión, lo que causó su traspaso del Hannover 96 al Werder Bremen.Junto a Arne Friedrich como su compañero en la defensa central, jugó los 7 partidos de Alemania, que llegó al tercer puesto.Días más tarde fue confirmado en la nómina final de 23 convocados para el torneo europeo.[8][9][10] Mertesacker fue titular durante la fase de grupos y en los octavos de final, siendo parte del equipo que se adjudicó del título mundial tras vencer a Argentina en la final.