Los niños que no eran recuperados, adoptados o prohijados y quedaban en el centro, recibían instrucción de diversos oficios para ganarse la vida.

El conjunto de colegio y capilla, orientado a la calle San Vicente de Paúl, se edificó en diversas etapas entre los siglos XVII y XVIII.

En el tercer cuerpo sobresale un relieve escultórico de la Caridad.

En el cuerpo inferior, justo encima de la puerta, está empotrado un gran escudo con los blasones del Obispo Salvatierra; en el cuerpo superior, en hornacina, figura una estatua de grandes dimensiones del santo titular, San Prudencio, a la sazón patrón de Álava.

En la cabecera, recta, destaca la cúpula de casquete de esfera, decorada con casetones y apoyada sobre pechinas; un entablamiento con arquitrabe, friso, triglifos, metopas y cornisa soporta la cubierta, apoyado todo ello en pilastras de tipo dórico.