Residió alternativamente en Roma, Madrid, y finalmente en México, donde fue ordenado obispo auxiliar de Michoacán.
La correspondencia entablada con sus superiores benedictinos, reunida para su edición como "Cartas Mejicanas", muestra las preocupaciones de un ilustrado dignatario católico.
Apenas llegado, empezó a tener serios problemas con la Real Audiencia de Charcas, cuyos miembros ya estaban en serios conflictos con el anciano presidente-gobernador Ramón García de León y Pizarro y con su propio cabildo eclesiástico.
Poco después — en julio — estalló otra revolución en La Paz, que estableció la llamada Junta Tuitiva, más radical en sus propósitos.
No por eso pudo evitar las ejecuciones que dirigieron Castelli y su secretario, Bernardo de Monteagudo.
Por otro lado, esos mismos dirigentes dirigieron y permitieron actos insultantes para los sentimientos religiosos de la población.
Poco después, para su desgracia, el mismo Belgrano ocupaba Chuquisaca; sorprendentemente le permitió ejercer su pastoral.
Al llegar a Salta, fue tratado con suma dureza por el gobernador Güemes, que lo mantuvo algunos meses en una celda.