En 1987 pasó a ser el vicesecretario general del Partido Socialdemócrata de Dinamarca, y un año después se integró en el Parlamento de Dinamarca.
Desde 1992 fue secreatio general de su partido, hasta el año 2002, cuando fue sucedido por Mogens Lykketoft.
En 1993 sucedió a su compañero de partido Poul Schlüter como primer ministro del gobierno danés.
Se trataba de la primera vez que los socialdemócratas abandonaban el gobierno desde el año 1920.
Dos años más tarde, en el congreso del PSE celebrado en Oporto en 2006, fue reelegido como presidente del partido por un período de dos años y medio más.