La Feldgendarmerie era una institución autónoma en funciones que podía trabajar en concomitancia con la Geheime Feldpolizei, la Gestapo, el Heer y las SS, dependían del OKW, pero estaban conectadas orgánicamente con el Ministerio del Interior.

Estas unidades se ganaron tanto desprecio por la tropa regular como la Gestapo o la OrPo que se les llamó despectivamente como Das Kettenhunde o los "perros de presa", a causa del emblema de pechera con cadena que utilizaban.

Para 1941, estas unidades iban tras los Strafbataillon y los Sonderkommandos Einsatzgruppen en la ejecución de judíos en las zonas ocupadas.

Muchas de estas unidades operaban en conjunto con los Strafbataillon en la lucha antipartisana en Polonia y Bielorrusia sembrando el terror.

En 1955, bajo las directrices del Bundeswehr, las Feldgendarmeries fueron reorganizadas pero bajo el nombre de Feldjäger polizei.