La imposición de la ideología nazi en esos años limitó su labor educativa e hizo necesaria una separación entre historia moderna e historia antigua, propiciando que en 1937 el departamento arqueológico del museo se convirtiera en un museo propio de prehistoria e historia temprana, que años más tarde se convertiría en el actual Museo Arqueológico de Fráncfort.
En noviembre de 1955, la dirección del museo y la Colección Gráfica se trasladaron al histórico Saalhof, en Römerberg, aunque su inauguración no se produciría hasta julio de 1957 por las malas condiciones en las que se encontraban los edificios del complejo destinados para alojar las colecciones.
Aquello, junto al diseño del nuevo edificio, carente de ventanas y con elementos de hormigón visto al estilo brutalista, generó muchas críticas.
La sección sobre el siglo xx y el movimiento soviético de Fráncfort fue particularmente controvertida.
Las colecciones del museo se dividen cronológicamente en varias exhibiciones permanentes:[5]