En 1854 es elegido al Consejo del Cantón de Zúrich (legislativo) y en 1866 es elegido al Consejo de Gobierno (Regierungsrat - ejecutivo cantonal) en el que se ocupó del departamento militar.
En 1869 logra ser elegido al Consejo Nacional por el cantón de Zúrich.
Scherer logró imponerse en la cuarta vuelta de la votación por 91 votos de 147 votos válidos.
Scherer asumió la presidencia de la Confederación en 1872.
Durante su mandato ocupó sucesivamente los siguientes departamentos: