La Armería del Kremlin fue creada en 1508 como el arsenal real.

En 1711, Pedro el Grande había trasladado a la mayoría de los maestros artesanos a la nueva capital, San Petersburgo.

Alejandro I de Rusia nombró a la Armería como el primer museo público de Moscú en 1806, pero las colecciones no se abrieron al público hasta siete años después.

El actual edificio de la Armería se erigió entre 1844 y 1851 y fue obra del arquitecto imperial Konstantín Ton.

En 1960, la Armería se convirtió en el museo oficial del Kremlin.