En el año 1907 Stumpff entró al ejército, alistándose en el Brandenburgisches Grenadierregiment Nr.
12 "Prinz Karl von Preußen", y promovido a teniente en 1908.
En setiembre de 1933, ya instalado el Tercer Reich, Stumpff fue destinado a la Luftwaffe, que aún era ilegal en Alemania entonces en virtud del Tratado de Versalles.
Hasta fines de 1943 Stumpff comandó la Luftflotte 5, destinada inicialmente a la Batalla de Inglaterra y estacionada en Noruega.
Arrestado poco después junto con los demás miembros del Gobierno de Flensburgo, Stumpff fue prisionero de los británicos hasta 1947, y murió en Fráncfort del Meno en 1968.