Tras su incorporación a la República romana en el año 63 a. C., Gaza fue reconstruida bajo la dirección de Cneo Pompeyo Magno y terminada por Herodes I el Grande treinta años más tarde.
A lo largo del período romano, Gaza mantuvo su prosperidad y recibió subvenciones de varios emperadores.
Así, sus iglesias fueron transformadas en mezquitas, la población repentinamente adoptó el islam como su religión y el árabe se convirtió en la lengua oficial.
Gaza estuvo en manos mamelucas para fines del siglo XIII y se convirtió en la capital de una provincia que abarcaba desde el Sinaí hasta Cesarea.
Para el tiempo de su incorporación al Imperio otomano en el siglo XVI, no era más que una pequeña población.