Apenas fundada Caracas, se destina ese lugar para la Plaza Mayor o Plaza de Armas, sirviendo como centro del comercio, base militar y política de ese poblado español.
En la plaza era usual la ejecución y fusilamiento de enemigos políticos y conspiradores contra el gobierno colonial español, siendo el más conocido el de José María España, cuyo cadáver fue descuartizado en la plaza en 1799.
Luego cuando Guzmán Blanco asciende al poder cinco años después, comienzan los proyectos para la recuperación del lugar, así en 1872 se inicia un proceso de renovación de la plaza al estilo francés.
Las pequeñas escaleras al sureste de la plaza le dieron nombre a esa esquina, conocida como Gradillas.
Mide 4 metros de altura, en ella Bolívar está sobre un caballo encabritado sostenido por sus patas traseras apoyado sobre el pedestal que posee dos gradas.