Se unió al Movimiento por el Triunfo de las Libertades Democráticas (MTLD) y a la Organización Especial (OS) en la que participaban también los revolucionarios Ben Bella.
Aït Ahmed y Mohamed Boudiaf (posteriormente asesinado).
En una conferencia de prensa, el portavoz del prefecto de Argel declaró: «Ben M'hidi se ha suicidado en su celda colgándose en una cuerda hecha con su camisa».
Estas declaraciones fueron disputadas por muchas personas que lo conocían debido a sus fuertes creencias religiosas, ya que el islam prohíbe el suicidio.
En 2001 en una confesión al diario Le Monde, el general Paul Aussaresses reconoció haber asesinado a Larbi Ben M'Hidi y al abogado Ali Boumendjel en la noche del 3 al 4 de marzo de 1957.