[1]​ Inició su carrera en 2004, jugando por los clubes neerlandeses Ajax de Ámsterdam y RKC Waalwijk.

En el mismo año se marcha a jugar cedido al RKC Waalwijk para la temporada 2004-05.

El Ajax ganó la Supercopa de los Países Bajos y otra Copa de los Países Bajos en la siguiente campaña y en 2007, por segunda vez consecutiva, lograría otra Supercopa.

Compartió la zona central de la defensa con John Heitinga y después con Jan Vertonghen.

[4]​ Tomó la dorsal número 5, antes ejercida por Kolo Touré y Vermaelen, junto a William Gallas, formó la defensa central 'Gunner'.

[5]​ Sin embargo, hizo un autogol en un partido en casa contra el Chelsea, cuando cruzó un centro que llegó de Ashley Cole.

En reconocimiento por su buena performance, fue nominado al premio de deportista del año en Bélgica.

Vermaelen terminó la temporada con 45 juegos y 8 goles en todas las competiciones en su haber y además formó parte del equipo ideal de la temporada 2009-10 de la Premier League.

En la pretemporada de la campaña 2010–11, Vermaelen capitaneó al Arsenal en el partido por la Emirates Cup ante el AC Milan pues el capitán Cesc Fàbregas y los vicecapitanes Manuel Almunia y Robin van Persie no estuvieron en el equipo.

Esa temporada 2010-11 no fue buena para Vermaelen, prácticamente no jugó debido a las lesiones (en el tendón de Aquiles y cuando regresó de la lesión, una nueva contusión lo dejó fuera) que lo tuvieron aproblemado durante toda la temporada.

En el minuto 84, sufrió una supuesta lesión en la pantorrilla, pero para alivio de muchos afirmó que tan sólo fue un calambre.

Vermaelen anotó el gol de la victoria (2-1) a los 94 minutos dándole tres puntos vitales al Arsenal en la lucha por mantenerse en puestos de clasificación a torneos europeos.

[8]​ Sus primeras semanas en la entidad barcelonistas no fueron las mejores, su lesión en los Isquiotibiales de su pierna derecha que acarreaba desde el Mundial de Brasil le habían mantenido al margen del grupo.

[9]​ Para ganar minutos por esta larga lesión, el 24 de septiembre disputó un amistoso con el filial azulgrana contra la selección de Indonesia sub-19 siendo reemplazado en el minuto 63,[10]​ al día siguiente recibió el alta médica que le había impedido debutar con el primer equipo,[11]​ pero tras unas semanas recayó en su lesión, por lo que el 2 de diciembre se sometió a una intervención quirúrgica en el músculo semitendinoso por el doctor Sakari Orava en Finlandia, esto lo llevó a estar en recuperación durante cuatro meses.

[18]​ Tras no renovar contrato con el F. C. Barcelona y quedar libre, fichó por el Vissel Kobe de Japón.

[19]​ Abandonó el club al finalizar el año 2021 habiendo ganado una Copa del Emperador y una Supercopa de Japón.

Bélgica no pudo clasificar y quedó en cuarto lugar de su grupo.