Posteriormente ocupó las carteras de Asuntos Exteriores e Interior, concentrando Boumédiène el poder militar en el nuevo Estado Mayor General (EMG).

Esto motivó la fuerte oposición de los independentistas y en especial de Krim Belkacem, que actuaba como jefe de la delegación argelina, quien se expresó en los siguientes términos: “Nada es posible con Francia, mientras no reconozca a Argelia en su integridad territorial.

Sin embargo, dicho protagonismo no le permitió alcanzar la jefatura del nuevo Estado, pues en la reunión del CNRA celebrada en Trípoli (Libia) en mayo-junio de 1962 no logró imponerse al otro aspirante, Ahmed Ben Bella, regresado de su largo cautiverio en Francia tras ser secuestrado su avión en el que se dirigía de Marruecos a Túnez en 1956.

Tras una ajustada votación y numerosos enfrentamientos violentos (que causan miles de muertos), Ben Bella alcanzó el poder apoyado por el general Boumédiène.

Krim se refugió en Tizi Ouzou donde trató de crear un grupo opositor junto a Boudiaf a fin de participar en la Asamblea Constituyente.

Según los diarios del momento, su muerte se produjo por estrangulamiento con su propia corbata en una habitación del Hotel Intercontinental, dos días antes de que se descubriera el cuerpo[9]​ envuelto en una manta y junto a una caja de bombones y un ramo de flores.