Desde pequeño demostró un espíritu rebelde y tuvo conflictos con su padre, por lo que dejó tempranamente la escuela secundaria en Elberfeld y sin mayores estudios trabajó como un asistente de campos agrícolas y viviendo de remesas secretas concedidas por su madre.

Fue uno de los miembros fundadores del NSDAP con el nº 95 en 1921 iniciando una carrera política y mostró un ferviente apoyo a Adolf Hitler declarando su apoyo en la siguiente proclama: Karl Kaufmann se retiró temporalmente del partido luego del Putsch de Múnich, ejerció como comerciante, volviendo a unirse en 1925 al NSDAP.

Por otro lado, compró con sobornos a dirigentes del partido para mantenerse en su posición.

[cita requerida] Estando Ad-Portas al final de la guerra, Hitler declaró a Hamburgo ciudad fortaleza, sin embargo, Kaufmann viendo la inutilidad de la defensa de una ciudad completamente rodeada por fuerzas aliadas, intentó disuadir al líder nazi intentando declararla ciudad abierta, lo que no conseguiría hasta la toma del poder por Karl Doenitz, lo que le valió exhibirse como el "salvador" de la ciudad de Hamburgo.

[5]​ Kaufmann permaneció en la ciudad de Hamburgo e intentó renacer un movimiento ultraderechista pronazi en asociación con otras personalidades como Werner Naumann; pero no fructificó gracias a la intervención de la inteligencia británica.