En 1958 fue uno de los fundadores del Partido Socialista Autónomo, agrupación que daría lugar en 1960 a la creación del Partido Socialista Unificado (PSU), formación que Bérégovoy abandonaría en 1967.

En 1982 entró en el gobierno como Ministro de Asuntos Sociales.

Ejerció como primer ministro en la presidencia de François Mitterrand entre 1992 y 1993, siendo substituido por el gaullista Édouard Balladur.

Bérégovoy sucedió a Édith Cresson, la primera mujer que obtuvo el cargo de primer ministro en Francia, en abril de 1992, después de que los socialistas perdieran una gran cantidad de votos en las elecciones regionales.

Su hermano, Michael Bérégovoy, también estaba involucrado en la política.