Debe su nombre a la ciudad de Callao, en la actualidad conurbada con Lima.
Previamente, el virrey pernoctaba en el Convento de Monserrate que se encontraba dos cuadras más al oeste (llamada calle Monserrate y actual cuadra 8 del jirón Callao) y al día siguiente entraban a la ciudad.
En 1573 se construyó el Hospital del Espíritu Santo por obra del señor Miguel de Acosta que sería uno de los primeros hospitales construidos en la ciudad.
En esa primera cuadra se encuentra el Palacio de la Unión.
El jirón, en sus primeras cuadras, tiene un carácter exclusivamente comercial destacando la presencia de imprentas.