Se quedó en el Ejército hasta 1934, año en que decidió unirse a la Luftwaffe.

Por su gestión en este grupo,en junio de 1942 se le concedió la Cruz Alemana en oro.

Posteriormente se convirtió en Jefe de Personal (Jefe del Estado Mayor) para el II Tankového, cuerpo bajo el mando del SS- Oberstgruppenführer Paul Hausser, sirviendo en esta unidad en las batallas de Kursk y Járkov.

Una vez recuperado, tomó el mando de la División SS Standartenführer Otto Bingo.

Cabe señalar que Ostendorff fue, a la edad 42 años, el más joven comandante de división.