La mezquita fue construida sobre el sitio del Palacio Ghumdan, entre las dos áreas de Saná, Al-Quati y Al-Sailah.

[3]​ Junto con la mezquita, el sitio del palacio también alberga una prisión y barracas para las fuerzas armadas, construidas durante el Imperio Otomano.

Muchos de los hallazgos arqueológicos descubiertos en la mezquita corroboran su construcción hasta la época en que Mahoma estaba vivo.

Las inundaciones causaron dos veces daños sustanciales a la mezquita, después de lo cual fue totalmente renovada.

[2]​ Gran parte de la restauración fue realizada en 1130 por la Reina Isma`ili Arwa ibn Ahmad.

[7]​ A principios del siglo XVI, la mezquita fue renovada con una estructura cuadrada abovedada y el pavimento de su patio.