Después de graduarse en 1994 en Gelnhausen Tauber estudió historia medieval y moderna, filología alemana, y ciencia política en la Universidad Johann Wolfgang Goethe, interrumpido temporalmente por el servicio militar.
Escribió su tesis sobre la posición social y funcionalización ideológica de deportes en el Imperio alemán.
Tauber es miembro de la Unión Junge desde 1991, del CDU desde 1992.
En 2008 fue elegido miembro del consejo de CDU Hesse.
Tauber sucedió a Hermann Gröhe, quién fue nombrado ministro de salud después de las elecciones federales.