Koch nació en Bartenstein, Prusia Oriental (actual Bartoszyce, Polonia),[1] se graduó en Derecho por la Universidad de Königsberg.
En 1937, ayudó en la absolución del pastor Martin Niemöller.
[2] Durante la II Guerra Mundial, desarrolló contactos con Claus von Stauffenberg y los conspiradores del complot del 20 de julio, incluyendo a Carl Goerdeler.
[2] En este complot, una vez los nazis fueran derrotados, estaba previsto que Koch se convirtiera en juez presidente del Reichsgericht, el más alto tribunal en el Reich alemán.
Pero el complot fracasó y Koch dio refugio a uno de los conspiradores.