En 1983, se proclamó campeón del fútbol peruano y máximo artillero con veinticuatro goles.

[1]​ Cabe resaltar que un 29 de mayo logra por primera vez con la casaquilla del Sporting Cristal, marcar 4 goles en un partido: fue ante Unión Huaral en el triunfo del cuadro rimense por 6-1.

En 1984, continúa su racha goleadora con el cuadro rimense y en 18 encuentros logra anotar 19 goles, donde un 18 de abril logra por segunda vez con la casaquilla del Sporting Cristal marcar 4 goles en un partido: fue ante Deportivo Municipal en el triunfo 4-1 en partido jugado en el Estadio San Martín por la cuarta fecha del Regional.

Caballero tuvo pasos por el fútbol de Colombia y Ecuador.

Juan Caballero fue internacional en 15 partidos con la selección de fútbol del Perú entre 1982 y 1985, anotó 4 goles.