Generalmente se acepta que los judíos comenzaron a establecerse en Praga durante el siglo X.
El primer pogromo (acto de violencia contra una comunidad, en este caso la judía) del que se tiene noticia en Praga ocurrió en 1096 durante la Primera Cruzada, cuando se obligó a los judíos a concentrarse en un barrio amurallado.
Fue en ese momento en que el rabino Rabbi Judah Loew creó el mito del Golem de Praga.
Dos años antes, los judíos recibieron permiso para establecerse fuera del gueto, por lo que la proporción de población judía se redujo en Josefov.
Bajo el Tercer Reich, los nazis querían hacer en Josefov un museo exótico de una raza extinta, por lo que se conservaron las sinagogas del barrio.