La actividad política de Joaquín Leguina comenzó ya en la universidad, en grupos antifranquistas.

Posteriormente militó en el Frente de Liberación Popular (FELIPE),[5]​ en Convergencia Socialista de Madrid (donde coincidió con personajes como Juan Barranco, Enrique Barón o José Barrionuevo) y, tras la confluencia de ésta en 1977 con la Agrupación Socialista Madrileña, en el Partido Socialista Obrero Español (PSOE).

En el congreso, los antiguos convergentes, con el apoyo del aparato central del PSOE, en manos de Felipe González, se hicieron con el poder,[6]​ desbancando a la facción encabezada por Alonso Puerta.

Leguina, líder de los denominados renovadores (opuestos a los guerristas), ocupó la secretaría general hasta 1991.

Apoyó a Joaquín Almunia en las primarias socialistas para elegir candidato a la presidencia del gobierno en 1998 (que fueron ganadas por José Borrell), y ese mismo año se postuló como candidato del PSOE a la alcaldía de Madrid, siendo derrotado en las primarias socialistas por Fernando Morán.

En 2006 anunció su retirada al finalizar la legislatura, no presentándose a la siguiente convocatoria electoral.

Desde 2018, Leguina expresa abiertamente su descontento y crítica hacia el actual secretario general del PSOE Pedro Sánchez.

[10]​ En diciembre de 2022 Toni Canto lo propuso para ser la cabeza visible, junto a Rosa Díez para hacer una moción de censura contra el Gobierno del PSOE.

Tiene una variada obra literaria, de la que cabe destacar: Es citado en la popular canción Aquí no hay playa.