La primera puerta que se abrió en dicho lugar fue durante la época romana, como desembocadura del cardo maximus.

[1]​ Desde la conquista islámica de la península fue conocida como puerta de los Judíos (Bab al-Yahud),[2]​ aunque durante el Imperio almohade se la conoció como bab al-Hudá (puerta de la Recta Dirección) debido a la persecución de los judíos en ese momento.

[4]​ Su nombre hace alusión a los abundantes restos óseos hallados en sus cercanías donde al parecer existió una necrópolis extramuros.

[4]​ En el año 1731, y como consecuencia de la búsqueda de una hospedería para los ermitaños que bajaban a la ciudad que viniera a sustituir a la que mantenían en la ermita de Nuestra Señora de las Montañas, se solicita por parte del ermitaño Francisco de Jesús la cesión por parte del ayuntamiento del espacio entre las dos torres que componían la puerta de Osario.

En el año 1831, se entrega el uso a los ermitaños del Desierto de Nuestra Señora de Belén, que rebajaron considerablemente la altura del arco, perdiendo gran parte del encanto de la puerta.