Abandonó temporalmente su carrera profesional como abogado para coordinar el Grupo Parlamentario de UPyD en el Congreso durante la X Legislatura (2011-2015).
Es conocido públicamente por haber sido la cabeza visible de Unión, Progreso y Democracia (UPyD) en su lucha contra la corrupción política, habiendo dirigido las acciones judiciales del partido en asuntos relevantes como los conocidos como "caso Bankia", "caso de las preferentes" o el de las "tarjetas black", y otros escándalos financieros.
Estuvo también destacado en Londres, en el despacho de abogados Norton Rose Fulbright, realizando un secondment (prácticas) durante seis meses.
Herzog es afiliado y militante activo de Unión, Progreso y Democracia desde 2008, poco después de la fundación del partido, año en el que comenzó a colaborar puntualmente en cuestiones jurídicas, hasta que en el año 2011 Rosa Díez le ofreció incorporarse a dicho proyecto político, cuando trabajaba en el despacho de abogados Garrigues.
La candidatura encabezada por Andrés Herzog obtuvo la victoria en las elecciones internas con un 43,28 % de los votos, imponiéndose por un estrecho margen a la candidatura encabezada por la entonces Diputada Irene Lozano y Toni Cantó que obtuvo un 40,21 % de los votos.
[11] En marzo de 2017 fundó, con Rosa Díez, Carlos Martínez Gorriarán y otros, el foro "El Asterisco".