Nació en Jerusalén y fue educado en la Universidad de al-Azhar en Cairo, Egipto.

Fue un miembro destacado del Consejo Supremo musulmán durante el Mandato británico de Palestina.

Sin embargo, el Comisario en jefe británico Herbert Samuel, convenció a Jarallah para retirarse, permitiendo así que se postulase como candidato el hermano de al-Husayni, Amin, a quien Samuel nombró Gran Muftí de Jerusalén.

A modo de consuelo, los británicos nombraron a Jarallah como jefe cadí e inspector de los tribunales religiosos musulmanes en Palestina.

Ningún Gran Muftí fue nombrado para sustituir a Jarallah hasta que Yasser Arafat nombró a Sulaiman Ja'abari en 1993.