En 1904, se incorporó al Ejército Imperial, y en 1912 Felmy fue a la escuela de vuelo para convertirse en piloto del Servicio Aéreo del Ejército Imperial.

Durante la I Guerra Mundial, Felmy comandó un escuadrón en el frente turco.

El 12 de enero fue obligado a dimitir debido al incidente Mechelen y fue reemplazado por Albert Kesselring.

En un esfuerzo por rehabilitar en nombre de su familia se unió al Partido Nazi (contra el protocolo).

[2]​ En mayo de 1941, Felmy fue convocado por el Alto Mando de las Fuerzas Armadas (Oberkommando der Wehrmacht, o OKW) para ser comandante del Personal Especial F,[3]​ la misión militar en Irak.

Felmy comandó la misión en Irak desde la Grecia ocupada.