Recaló al Club Atlético Boca Juniors en el año 2001, en donde vivió los momentos más gloriosos de su carrera.
Llegó en reemplazo de Jorge Bermúdez, ya que fue elegido para reorganizar la defensa.
En este club se hizo gran amigo de Juan Manuel Insaurralde, con quien luego jugaría en Boca Juniors.
Newell's, decidió no renovarle el contrato al defensor y Schiavi quedaría libre.
Tras ver esta situación, su antiguo equipo, Boca Juniors, decide contratar al jugador de 38 años por una temporada tras las malas actuaciones defensivas del plantel xeneize en los últimos tiempos.
Ya comenzado el Torneo Apertura 2011 en Argentina, en la quinta fecha ante Independiente De Avellaneda Boca Juniors gana por 1-0 con un gol del flaco.
Finalmente Boca termina consagrándose campeón invicto de aquel torneo Apertura 2011 en el partido que su equipo venció a Banfield por 3-0.
En la segunda final, cometió un grosero error dándole un pase al rival Emerson, para sellar el 0-2 a favor del Corinthians.
Boca Juniors saldría subcampeón de la Copa Libertadores 2012 y en la 4° posición del torneo local.
Entró a los 35 minutos del segundo tiempo en el partido donde Argentina perdió 1-0 ante Paraguay en el Estadio Defensores del Chaco, y lo hizo a la edad de 36 años, siete meses y 22 días.
La selección clasificó, pero Schiavi no fue tenido en cuenta para representar a su país en la máxima cita futbolística.