Él era un oficial de justicia durante su servicio militar y pasó a trabajar como abogado.

Es hijo del rabino Isaac Nissim, que fue el gran rabino sefardí de Israel desde 1955 hasta 1973 Nissim fue elegido por primera vez para la Knéset en 1959 como miembro de los Sionistas Generales.

Sin embargo perdió su escaño en las elecciones de 1961 y no volvió a aparecer en la Knéset hasta 1969, cuando fue elegido en la lista de Gahal.

En 1973 el partido Gahal se convirtió en el Likud, con Nissim sirviendo como presidente parlamentario del partido entre 1973 y 1977.

En junio de 1990 se convirtió en vice primer ministro.