Su núcleo fundacional está constituido por el de Artillería e Ingenieros.
En 1803, a instancias de Godoy, se crea en Madrid el Real Museo Militar, antecedente más remoto del Museo del Ejército actual.
En ese momento, sus colecciones respondían a claros objetivos didácticos, siendo uno de sus principales el apoyo para la formación de los soldados, proporcionando una enseñanza complementaria a las Academias Militares.
Habrá que esperar a la II República, cuando se crea el Museo Histórico Militar en 1932, incluyendo secciones para las cuatro armas y los cuerpos de Intendencia y Sanidad Militar.
Tras la guerra civil española, el Museo adquirió la estructura y organización que se mantuvo vigente en el Salón de Reinos hasta su reciente traslado.