Luis Servidio, su hermano mayor, fue el primero en interesarse en la ejecución del bandoneón, luego lo siguió José y, finalmente, Alfredo, el menor.

[1]​[2]​ Transitó por diversas orquestas, en las que ocasionalmente fue compañero de Anselmo Aieta, Carlos Marcucci, Rafael Iriarte, Juan Bautista Guido y otros bandoneonistas dedicados al tango.

Después pasó por las formaciones dirigidas por Juan Maglio, Francisco Canaro y Osvaldo Fresedo, reemplazando a este último cuando tuvo un accidente de aviación.

En 1963 León Benarós lo describió así: Su primera composición conocida fue el tango La contra... vino, de 1919, que grabó Roberto Firpo en 1922, y su mayor éxito lo logró con El bulín de la calle Ayacucho, que grabaron Gardel y otros músicos.

Las obras que aparecen registradas en SADAIC a nombre de José Servidio son:[3]​