Según una placa encontrada y conservada en el Museo Arqueológico de Córdoba, la mezquita habría sido construida por el cadí Umar ben Hadabas durante el gobierno del emir Abderramán II.

Está actualmente integrada en dicho complejo eclesiástico y desde 1880 en el colegio que las Esclavas del Sagrado Corazón de Jesús tienen en la capital cordobesa, ya que fue cedido por el obispo Ceferino González.

Aunque ya fue identificado como alminar por Teodomiro Ramírez de Arellano en su obra Paseos por Córdoba (1873-75),[3]​ no sería investigado hasta 1927 tras unas reformas de la iglesia por el arquitecto Félix Hernández, quien lo catalogó como califal y también modificó el segundo cuerpo y construyó la parte superior a dos aguas.

[4]​ En 1997 se colocó una reja para evitar desprendimientos, que fue retirada durante la primera fase de restauración entre octubre y diciembre de 2018 durante una restauración exterior que evitaba frenar su deterioro e iluminar el monumento.

A pesar del deterioro que presenta, es, tras la Mezquita, el mejor exponente de arte califal conservado en la ciudad.