Su padre, Cheikh El Hocine, que se encargó de su educación, le impartió asimismo la enseñanza religiosa.
Intensificó entonces su acción militante en Skikda y se unió al Ejército de liberación nacional (ALN).
Tras la independencia, fue nombrado embajador de Argelia en varios países, en el Líbano en 1963, en Siria en 1966, en Túnez en 1975 (y, el mismo año, representante argelino en la Liga Árabe por entonces instalada en la ciudad de Túnez), e igualmente en Egipto, Irak e Italia.
Asumiendo una actitud cada vez más osada, emprendió sin concertación previa un diálogo con los partidos políticos, por lo que una conferencia del ACE decidió reemplazarlo.
Ali Kafi publicó sus memorias en 2002, en una obra titulada “Del militante político al dirigente militar”, en la que vuelve sobre numerosas zonas oscuras de la “revolución argelina”, obra por la que será duramente criticado, sobre todo por sus revelaciones, juzgadas ofensivas, entre otros sobre Abane Ramdane.