Fueron sus padres don Primitivo Crespo y doña Carmen Rivera.

Hizo sus primeras letras en escuelas y colegios privados y en el seminario de Popayán.

Luego estuvo, durante cuatro años, en la vicerrectoría de la Universidad del Cauca hasta que el 24 de septiembre de 1894 se posesionó como rector.

En agosto de 1896 el obispo Manuel José Cayzedo lo nombró su secretario para las visitas canónicas dentro de la diócesis y en los viajes que fueran pertinentes.

Durante seis años estuvo al frente de la Sede episcopal de Santa Fe de Antioquia, aunque no todo ese tiempo residió en su capital.