Apenas terminada la Guerra Civil, y con la anterior cárcel de Madrid, la Modelo, prácticamente destruida por haber estado en la línea del frente, el general Francisco Franco decidió construir una nueva cárcel.

Construida con estructura de hormigón armado y ladrillo visto en sus sobrios cerramientos de fachadas, muestra incrustados elementos neo-herrerianos en aras del estilo imperialista impulsado por la ideología oficial, enmarcándose la entrada principal con una portada que arranca con columnas dóricas e incluye un balcón rematado por un frontón triangular.

Según la noticia aparecida en la revista Redención, la cárcel era "un modelo en las de su clase, con capacidad para 2000 reclusos".

Al crecer la ciudad de Madrid (que se anexionó los municipios limítrofes, entre ellos Carabanchel Alto, en 1948) la cárcel quedó en su interior (el suburbano, posteriormente Metro, pasaba a sus pies, entre las estaciones de Aluche y Carabanchel).

También sufrieron el mismo método de ajusticiamento en 1963 los anarquistas Francisco Granados Gata y Joaquín Delgado Martínez.

En 1975, Xosé Humberto Baena Alonso, José Luis Sánchez Bravo y Ramón García Sanz, miembros del FRAP condenados a muerte, pasaron aquí sus últimas horas, antes de ser ejecutados en Hoyo de Manzanares, en las que serían las últimas ejecuciones del franquismo.

También estuvieron encarcelados aquí, en la tercera galería (destinada a presos políticos), numerosos opositores a la dictadura, como el sindicalista Marcelino Camacho, dirigente de Comisiones Obreras, José Luis López de Lacalle o Simón Sánchez Montero.

[1]​[2]​ Como consecuencia de este caso el director del centro penitenciario, Eduardo Cantos Rueda, fue cesado y procesado.

Cabe señalar a Marcelino Camacho (líder de Comisiones Obreras) y el resto de dirigentes del sindicato encarcelados en virtud del Proceso 1001, Julián Ariza (dirigente del mismo sindicato), Nicolás Redondo (líder de la Unión General de Trabajadores), Eduardo Saborido, Simón Sánchez Montero (dirigente comunista, que pasó en la cárcel un total de 25 años),[5]​ Nicolás Sartorius,[6]​ Ramón Tamames,[7]​ Enrique Múgica y Enrique Curiel (militantes comunistas), Miguel Boyer (militante socialista),[8]​ Fernando Sánchez-Dragó,[9]​ Miguel Gila,[10]​ Fernando Savater,[11]​ Jorge Artajo [cita requerida], Fernando Arrabal,[12]​ Marcos Ana,[13]​ Javier Ortiz,[cita requerida] Jamal Ahmidan,[14]​ o el anarquista británico Stuart Christie.

En ese año, incluso, se hicieron visitas guiadas por los propios funcionarios de la prisión para el público.

Los vecinos de la zona reclamaron que en el solar se construyera un hospital y servicios sociales para el barrio.

En 1903 y en 2005, durante las obras de Vía Carpetana, se descubrieron restos romanos en este mismo solar.