Haeften y su hermano mayor Hans Bernd von Haeften nacieron en Berlín como hijos del oficial de la armada Hans von Haeften, Presidente del Reichsarchiv.

Estudió leyes y trabajó en la banca de Hamburgo hasta el inicio de la Segunda Guerra Mundial cuando se alistó en el ejército alemán.

En 1943, recuperándose de una herida sufrida en el frente oriental se unió a Claus von Stauffenberg como miembro de la Operación Valquiria.

Ese mismo día Stauffenberg junto al General Friedrich Olbricht y Oberst Albrecht Mertz von Quirnheim, fueron arrestados y fusilados por el General Friedrich Fromm en el Bendlerblock.

[2]​ Cuando Stauffenberg iba a ser fusilado, Haeften trató de interponerse cayendo en el acto.