En el Ejército Imperial Japonés, el ministerio estaba a cargo de la administración militar ( 軍政, ' Gunsei '?

Aunque estaba considera un miembro del Gabinete tras establecerse el sistema de gobierno ministerial en 1885, el Ministro del Ejército respondía directamente ante el Emperador, como Comandante en Jefe de todas las Fuerzas Armadas japonesas, y no ante el Primer Ministro.

Esta práctica se legisló con la "Ley de Oficiales en Activo como Ministros Militares" (軍部大臣現役武官制, Gumbu daijin gen'eki bukan sei?)

en 1900 por el Primer Ministro Yamagata Aritomo para frenar la influencia de los partidos políticos en asuntos militares.

El Ministerio del Ejército y el Cuartel General Imperial estaban localizados en Ichigaya, actualmente parte de Shinjuku, Tokio.