Su sede original era el Palacio de la Real Audiencia, un edificio que actualmente alberga la Capitanía General, en donde permaneció hasta su traslado en 1936 a los sótanos del Palacio de Justicia.

Finalmente, en 1956 fue trasladado a su actual emplazamiento, junto al Jardín de San Carlos.

El proyecto fue concebido por Antonio Tenreiro Rodríguez, e inaugurado en 1955.

No obstante, desde mediados del siglo XIX, ha ido adquiriendo fondos de origen diverso, hasta llegar a más de 250.

El Archivo alberga fondos que se remontan, en el caso de diversos diplomas en pergamino, al siglo IX.