El museo remonta sus orígenes al historiador, bibliotecario y consejero de la corte Gustav Klemm, cuya colección histórica cultural encontró un hogar permanente en el recién fundado museo en 1869, poco después de su muerte.

Al principio se mantuvo provisionalmente en los antiguos laboratorios químicos de Leipzig.

En 1895 la colección se trasladó al antiguo Museo Grassi en la Königsplatz, construido a lo largo de tres años específicamente para este fin, aunque en la actualidad alberga la biblioteca municipal.

En 1929 se trasladó al Nuevo Museo Grassi en la Johannisplatz, cuya construcción había comenzado en 1925.

También hay grandes colecciones africanas, americanas, del Próximo Oriente y europeas.