Estudió piano en el Conservatorio de París con Édouard Risler y armonía con Albert Lavignac.

Tras el estallido de la I Guerra Mundial Jarnach emigró a la Suiza neutral.

Entre sus alumnos destacan conocidos compositores como Kurt Weill, Jürg Baur, Bernd Alois Zimmermann y Nikos Skalkottas.

Durante el régimen nazi (1933-1945) Jarnach fue privado de todos sus cargos honoríficos.

Después de la II Guerra Mundial Jarnach tuvo gran participación en la reorganización musical en Alemania.