Era el segundo hijo del empresario Tulio Ospina y su esposa Ana Rosa Pérez Puerta.

Estudió ingeniería civil en la Universidad de California, Estados Unidos, donde también estudiaron su padre y su tío.

[3]​ Tulio perteneció a la prestigiosa familia de los Ospina, afiliados al partido Conservador.

Su padre, Tulio Ospina Vásquez, fue un exitoso empresario, ingeniero de minas, y académico ilustre.

Mariano se casó con la activista Bertha Hernández, quien también influyó muchísimo en la política colombiana.