Segundo de cuatro hermanos, entre los que se encontraba el poeta León de Greiff.

Ejerció la profesión de ingeniero civil algunos años, para luego vincularse como docente a la Universidad Nacional en Bogotá, como profesor de cálculo y geometría analítica durante 48 años; en esta trayectoria llegó a ser Secretario General, Vicerrector y Rector encargado.

Fue también un gran aficionado a los idiomas, y desde temprana edad aprendió inglés, francés, alemán, italiano, sueco, ruso, danés y esperanto.

Hasta 1997 su obra como poeta se reducía a algunas pocas éstrofas sueltas, hasta que fue recopilada en la antología Grafismos del Grifo Grumete, con prólogo de Germán Arciniegas.

En su honor el gobierno creó el Concurso Nacional «Otto de Greiff», a los mejores trabajos de grado universitario.