Comenzó su carrera deportiva en el Arona de la Serie D, con 18 años, en 1971, donde disputó 34 partidos y anotó 4 goles.

Posteriormente, en 1972, pasó a las filas del Varese de la Serie B italiana, conjunto en el que fue destacando como defensa central, jugando 34 partidos y marcando 1 gol.

En la Juve, con 414 partidos y 10 goles durante 11 años, junto a muchos de los campeones mundiales de España 82 (como Zoff, Tardelli, Cabrini, Scirea, Rossi, etc.), Gentile alcanzaría su consagración definitiva y su mayor gloria deportiva; primero como un excepcional defensa central y luego, con Gaetano Scirea en la defensa de La Squadra Italiana, como volante de marca, donde se volvió irreemplazable.

Es famoso en la memoria colectiva, aquel marcaje que le realizó a Maradona en los cuartos de final del mundial de España 82 donde con duras faltas logró anular el juego de la estrella argentina, ganándole Italia a Argentina 2-1.

En 1998 asumió el cargo de la selección italiana Sub-20 y, 2 años más tarde, sería asistente de Giovanni Trapattoni en la selección italiana absoluta.