Desde temprana edad, O'Leary Soublette estuvo expuesto a un entorno intelectual y político vibrante en Bogotá.
Motivado por el legado de su padre, se dedicó a la recopilación y organización del archivo epistolar del prócer Simón Bolívar.
Esta publicación se realizó por orden del gobierno de Venezuela y se convirtió en una fuente invaluable para los historiadores de la independencia latinoamericana.
Se casó con Josefina Ospina Chaparro, sobrina de Mariano Ospina Rodríguez, presidente de Colombia entre 1858 y 1861.
Su hermana se casó con Ricardo Portocarrero Caicedo,fundador y presidente del Jockey Club de Bogotá.