Mauro Caballero empezó a jugar en el Club 24 de Junio de Altos y luego se trasladó a las divisiones juveniles del Club Olimpia en 1991.
En 1992 hizo su debut en el equipo principal de Olimpia, donde más tarde ganaría varios campeonatos nacionales e internacionales.
[1] Además, en 2002 ganó con Olimpia el más importante torneo continental, la Copa Libertadores de América, quedando en el recuerdo el tiro penal del cual se encargó y que trasformó en gol para posibilitar la obtención del título.
Durante la salida de Francisco Arce se hizo cargo del plantel por 2 semanas,[4] donde Olimpia debía hacer frente a Táchira en la Copa Libertadores y cayó derrotado.
Jugó 15 partidos, 3 por Copa América, 2 por Eliminatorias y 10 amistosos.