Tras cursar estudios en el Colegio Guadalupe, ingresó a la Escuela Naval y se recibió de guardiamarina en 1865.

Al iniciarse los bombardeos el 22 de abril, José Gálvez participó activamente en la defensa.

En un instante el practicante de medicina Manuel S. Ugarte (Segundo al mando) aprovechando la agilidad y fortaleza que el deporte le había dado, cargó y lanzó el artefacto a la cubierta de la embarcación enemiga[2]​ no sin antes haberlo encendido tras cortar la mecha con la ayuda del cabo Emilio San Martín; luego Gálvez de acuerdo a lo simultáneamente convenido hizo fuego sobre el torpedo, consiguiendo que estallara al segundo disparo.

Ugarte y San Martín (más próximos al estallido) murieron en el acto, mientras que a Gálvez la explosión le alcanzó en el aire y lo empujó al mar, siendo rescatado por el marinero Pedro Villanueva, que lo mantuvo a flote.

Poco después llegó la otra embarcación chilena, la Guacolda, que recogió a los sobrevivientes.

Gálvez resultó gravemente herido y fue llevado a la cubierta del acorazado Blanco Encalada.

Fue elegido senador por el departamento del Cusco en el congreso reunido en Arequipa en 1883[3]​ por el presidente Lizardo Montero luego de la derrota peruana en la guerra con Chile.