Jakob Kaiser nació en Hammelburg, Baja Franconia, Reino de Baviera.Fue durante este tiempo que se volvió políticamente activo como miembro de un sindicato católico, a través del cual se convirtió en líder del movimiento obrero cristiano durante la República de Weimar.Fue arrestado por la Gestapo en 1938 bajo sospecha de traición, pero liberado poco después.[2] Su relación con Goerdeler le permitió entrar en contacto con Claus von Stauffenberg.Kaiser pertenecía a un grupo dentro de la CDU llamado los Socialistas Cristianos.En 1946, Kaiser ayudó a fundar la Federación Alemana de Sindicatos Libres (FDGB).Su creencia de que el Congreso alemán estaba controlado por los soviéticos resultó en su negativa a unirse.
Kaiser en la convención de la CDU de Alemania Oriental, 1947
