Wolff nació en Darmstadt, Alemania y se unió al Ejército alemán durante la Primera Guerra Mundial, saliendo retirado como teniente.

Wolff fue asignado al Estado Mayor, específicamente a la Oficina Principal de Personal del Reichsführer SS en 1933.

El 6 de febrero de 1945, Wolff se reunió con Hitler en Berlín, y le comunicó que había establecido varios contactos para intentar conseguir un armisticio con los Aliados occidentales, es decir, Estados Unidos y el Reino Unido, dejando por fuera a la Unión Soviética.

Entre estos contactos mencionó al cardenal Alfredo Ildefonso Schuster, arzobispo de Milán y amigo cercano del papa Pío XII.

[5]​ Sin embargo, al regresar a Italia, Wolff descubrió que Kesselring acababa de ser trasladado al Frente occidental, y había sido reemplazado por el Coronel General Heinrich von Vietinghoff.

[8]​ Además, la búsqueda de paz paralela que Ribbentrop llevaba a cabo en Suecia fracasó, y Hitler montó en cólera al enterarse, asegurando no haber sido informado de ésta.

Esto ocasionó que Himmler entrara en pánico, y acusará a Wolff de ser estúpido.

Kaltenbrunner ya había emitido un decreto prohibiendo que la esposa de Wolff abandonase la residencia oficial.

Sin embargo, Wolff continuó trabajando en la operación Amanecer, como habían sido llamadas las negociaciones por los estadounidenses.

Desoyendo el consejo de Dulles, Wolff viajó a Berlín tres días después.

Wolff se defendió, alegando que aunque Hitler nunca lo autorizó verbalmente, el hecho de que no haya pronunciado palabra durante la reunión del 6 de febrero fue una autorización implícita.

[11]​ En este punto, de acuerdo a Wolff, Hitler declaró: Si esta afirmación de Wolff es cierta, significa que Hitler había autorizado el viaje que Rudolf Hess realizó a Escocia en 1941.

[12]​ Ese mismo día, el general Alexander ordenó que la Operación Amanecer fuese cancelada.

Allí se encontró con el mariscal Rodolfo Graziani, quien le entregó una carta autorizando la rendición del ejército italiano leal a Mussolini.

[15]​ Entonces Wolff arrestó a Schulz, y luego convenció al general Traugott Herr, comandante del 10.º Ejército, que rindiese sus tropas.