Fue el primer miembro del Gobierno suizo no perteneciente al Partido Radical, que hasta entonces había gobernado en solitario.

Tras cursar la enseñanza primaria y secundaria en Entlebuch, asistió al Gymnasium de Lucerna.

Tras doctorarse en 1859, regresó a Entlebuch y abrió allí un bufete de abogados.

En 1860 se casó con Philomena Widmer, natural de Emmen, con la que tuvo quince hijos.

En 1884 presentó una moción junto con Johann Joseph Keel y Martino Pedrazzini que proponía una reforma parcial de la Constitución federal.

Este movimiento se interpretó cómo un cambio de postura del grupo parlamentario hacia posiciones más pragmáticas, dejando de lado la política obstruccionista contra el Estado federal liberal que había prevalecido desde la Kulturkampf.

Así, en 1887, Zemp se convirtió en el primer representante de los conservadores católicos en ser elegido Presidente del Consejo Nacional.

[3]​ Los radicales, que hasta aquel momento habían gobernado en solitario, lograron evitar una crisis de gobierno ofreciendo a los conservadores católicos un escaño en el Consejo Federal, y renunciaron así a su pretensión de monopolizar los cargos gubernamentales.

El progreso tecnológico que se estaba produciendo en estos ámbitos hacía necesaria la implementación de nuevas disposiciones legales.

Durante su mandato se construyeron numerosos y prestigiosos edificios de correos.