Comenzó su carrera profesional en 1998 formando parte del equipo Telekom (a partir de 2004 se llamaría T-Mobile Team), equipo que abandonó a finales del año 2006.

En seguida sería conocido como el nuevo Ullrich, con el que Klöden mantiene una gran amistad, debido a que ambos son alemanes y corredores de similares características.

En la octava etapa de esta competición protagonizó un agónico sprint con Pieter Weening quedando segundo a pocos milímetros del neerlandés.

A raíz de esto declaró que se planteó dejar el ciclismo.

No logró ninguna victoria, y en el Tour de Francia acabó 14.º en la clasificación general (que pasaría a ser 13.º, debido a la posterior descalificación del vencedor, Alberto Contador), aunque su escuadra ganó el premio al mejor equipo al final de la ronda gala.

Y en abril, se hizo con la victoria en la general de la Vuelta al País Vasco, prueba que también ganó en el año 2000, además de la etapa CRI del Giro del Trentino.

También tomó la salida en la Vuelta a España, aunque, igualmente, acabaría abandonando.