Destacó como experto en materia ferroviaria y fue un firme defensor de la construcción de un túnel alpino bajo el puerto del Spluga, aunque finalmente no se llevó a cabo.

Dimitió en 1882 y a continuación ejerció como enviado de Suiza en Italia durante doce años.

En 1850 se casó con Barbara von Salis-Seewis (1829–1916), perteneciente a la dinastía noble de los Salis, con la que tuvo cinco hijos.

Sin embargo, sus proyectos en la Alta Engadina, Italia y Francia no llegaron a ejecutarse.

Su eficaz mediación como comisario federal durante los disturbios del Tesino de 1876-77 aumentó aún más la estima de que gozaba, tras haber demostrado su capacidad como experto en materia ferroviaria.

Bavier reconoció su derrota en este asunto y puso sus conocimientos técnicos a disposición del Tribunal Federal como perito permanente.

Bavier, el primer grisón en formar parte del gobierno federal, estuvo al frente del Departamento de Finanzas y Aduanas durante su primer año en el cargo, en 1879.

En este período, trabajó para clarificar el sistema tarifario y reforzar la supervisión del gobierno federal sobre las 24 administraciones ferroviarias.

Sin embargo, su año presidencial se vio ensombrecido por la grave enfermedad y muerte de su hijo Baptista Bavier-Rittmeyer (1855–1882).