Su nombre actual fue impuesto en 1901, en homenaje a Juan José Castelli, un político argentino integrante de la Primera Junta de Gobierno.
Sin embargo, durante muchos años fue denominado "Plaza del Seminario" por encontrarse el Seminario Mayor San José sobre una de sus calles.
El Seminario Mayor San José comprende toda la manzana delimitada por calles 23, 24, 65 y 66.
Tuvo sus últimos grandes cambios en la década de 1970: En 1973 se construyeron caminos de ladrillo, en 1975 se instalaron bancos y juegos, y en 1977 dos canchas de fútbol.
En 2004 se inauguró en este parque el "Monumento a los inmigrantes bivongesis" (nativos de Bivongi, Italia), obra del artista Aldo Simonetti.