En mayo de 1937 se afilió al Partido Nazi del que fue expulsado por falta de pagos en 1941.
Estuvo vinculado a la Orquesta Sinfónica de Bamberg, a la que dirigió frecuentemente entre 1948 y 1950, cuando la orquesta fue recién creada y con la que grabó varias sinfonías de Mozart.
Al igual que su hermano Eugen Jochum, se asocia con la música de Anton Bruckner, de cuyas interpretaciones se conservan grabaciones.
Otros compositores de los que grabó obras son Beethoven, César Franck, Alexander Glazunov, Haydn, Schubert, Shostakovich o Spohr.
También se editó un disco en el que, con la Orquesta Filarmónica de Estocolmo, acompaña al tenor Jussi Björling en un recital en vivo que tuvo lugar el 18 de julio de 1958 en Estocolmo.