Se trasladó a Santafé de Bogotá, realizando sus estudios en el Colegio Mayor del Rosario; en 1768 recibió la tonsura y en 1779 fue ordenado sacerdote por el Arzobispo Antonio Caballero y Góngora.

En 1799 regresó al rectorado del Rosario y en 1807 promovió las obras para la reconstrucción de la Catedral.

Durante cuatro años estuvo recluido en el convento de los trinitarios en Sevilla, hasta que en 1820 consiguió su libertad y regresó a América; llegó a Bogotá un año después.

[2]​ Desde la muerte del arzobispo Juan Bautista Sacristán en 1817, la sede episcopal se encontraba vacante, pues el clérigo designado para sucederlo, había rechazado realizar el viaje desde España;[3]​ así, habían sido designados desde entonces sucesivos Vicarios Capitulares para administrar la Arquidiócesis, correspondiéndole a Caicedo esta responsabilidad desde 1823.

En 1826 renunció debido a su avanzada edad, pero un año después fue designado por el Congreso como nuevo Arzobispo de Bogotá, en homenaje a su defensa de la independencia, un año después llegaron las bulas que desde la Santa Sede aprobaban esta designación.