Ya desde pequeño José María Gallardo mostró una decidida inclinación por la naturaleza.

Logró hacer de su vocación una profesión en 1950 al alcanzar la licenciatura en Ciencias Naturales —con orientación en Biología—.

En la Universidad de Harvard (Estados Unidos) trabajó como investigador asociado, al mismo tiempo en que se especializó.

Durante su gestión, Gallardo fue transformando la sala principal del museo, tradicionalmente dedicada a los mamíferos del Pleistoceno, hacia la exhibición de los gigantescos dinosaurios que se exhumaban en la Argentina, con la conducción del paleontólogo José Bonaparte, quien era el descriptor de esas mismas especies.

Describió géneros, especies y subespecies, además numerosas primeras citas para la herpetofauna argentina.