Gang Xu comenzó su carrera en 2005 con el equipo chino Marco Polo.

En su primer año, terminó tercero del Tour del Mar de la China Meridional.

Al año siguiente corrió para el equipo Skil-Shimano y, más tarde se uniría como stagiaire al conjunto Lampre-Fondital.

Tras estas experiencias volvió a Asia con el equipo de Hong Kong.

En 2008 acabó segundo del campeonato de China y ganó el Tour del Mar de la China Meridional.