Al renunciar Genaro Carrió, fue nombrado presidente del cuerpo hasta 1990 en que renunció a su cargo ante un aumento en el número de miembros que posibilitó el control del cuerpo por el Poder Ejecutivo y retornó al ejercicio de la profesión.

Compartió el Tribunal, en distintos períodos, con Jorge Antonio Bacqué, Augusto César Belluscio, Carlos Santiago Fayt y Enrique Petracchi y Genaro Carrió.

Al tratarse en la Corte en 1987 las leyes de Obediencia Debida y Punto final se pronunció junto con la mayoría –y la única disidencia de Jorge Antonio Bacqué- por su constitucionalidad.

En esa oportunidad afirmó Caballero era un trabajador incansable dedicado a las cuestiones vinculadas con la ciencia jurídica.Escribió varias monografías de calidad, en las que tiene como punto de partida una idea unitaria y sistemática del Derecho en general.

Estaba casado con la abogada Beatriz Helena Salu.