El museo en sí fue fundado por John L. Kirk en 1938, y se encuentra en los edificios de la prisión que se construyeron en el sitio del castillo en el siglo XVIII, la prisión de deudores (construida en 1701-1705 con piedra de las ruinas de la castillo) y la prisión femenina (construida entre 1780 y 1785).
Está rodeado por parte de la muralla del castillo de York en su lado sur, y más allá, el río Foss.
Su celda forma parte de la exposición permanente.
La prisión fue comprada por la York Corporation en 1934 abriéndose como el Museo del Castillo en 1938.
Aunque recibió respuestas de sitios en Middlesbrough, Wakefield, Batley, Doncaster y York, fue este último el que finalmente tuvo éxito.