Su construcción fue impulsada en 1828 por el prefecto Antonio Gutiérrez de la Fuente y fue inaugurado en 1833.
En esa oportunidad, los primeros restos en ser enterrados fueron los del prócer arequipeño Mariano Melgar con una ceremonia y un discurso del Deán Juan Gualberto Valdivia y Cornejo.
El nombre se le dio por el sitio en que fue construido (Apacheta o Apachita), nombre quechua que refiere a los montículos de piedra que formaban en la cumbre de la Cordillera los indígenas para dar gracias a Dios por haber podido llegar con fuerzas.
Su ubicación fue asignada por el Simón Bolívar, en consideración a que este lugar se luchó en 1814 la batalla de la Apacheta donde tropas rebeldes al mando de Mateo Pumacahua derrotaron al ejército realista.
La segunda zona es la monumental donde están mausoleos que datan del siglo XIX.