[1]​ En sus orígenes fue una iglesia bizantina y se convirtió en mezquita durante la primera época islámica.

La Gran Mezquita fue originalmente una basílica construida durante el reinado del emperador romano Felipe el Árabe, entre los años 244 y 249 d. C. Más tarde, los bizantinos construyeron una catedral sobre las ruinas de la basílica, la cual aparece representada en el mapa de Madaba, un mosaico de alrededor del año 600 d. C.[4]​ Esta catedral fue probablemente dañada o destruida por los samaritanos durante sus incursiones en 484 y 529, pero el emperador bizantino Justiniano I (que reinó entre 483 y 565) mandó restaurarla.

[5]​ La catedral se transformó en la Gran Mezquita de Nablus en los primeros tiempos del dominio árabe islámico sobre Palestina, en el siglo X.

[7]​ Los cruzados reconvirtieron la mezquita en una iglesia, pero solo hicieron algunas pequeñas modificaciones en ella, incluida la construcción de un ábside.

Como resultado, la cúpula y el minarete de la mezquita se vinieron abajo, pero fueron restaurados en 1935.