Era el segundo hijo del empresario Tulio Ospina y su esposa Ana Rosa Pérez Puerta.
Estudió ingeniería civil en la Universidad de California, Estados Unidos, donde también estudiaron su padre y su tío.
[3] Tulio perteneció a la prestigiosa familia de los Ospina, afiliados al partido Conservador.
Su padre, Tulio Ospina Vásquez, fue un exitoso empresario, ingeniero de minas, y académico ilustre.
Mariano se casó con la activista Bertha Hernández, quien también influyó muchísimo en la política colombiana.