De pequeño perdió a sus padres, por lo que fue acogido por sus familiares.

Estudió en Villarrica, luego en Asunción, en el Colegio Nacional, donde obtuvo un diploma de bachiller en 1897.

Desde joven fue militante del Partido Liberal, específicamente de la facción «radical» (aquellos liberales que se oponían a cualquier colaboración con los gobiernos, buscando derrocarlos), opuesta a la «cívica» (aquellos liberales que buscaban colaborar con los gobiernos para así poder lograr algo).

En 1923, cuando Eligio Ayala terminó como presidente hacia el final del caos que siguió a la guerra civil de 1922, este escogió a Rivarola para que ejerza como ministro del Interior.

[2]​ Se casó con Aurelia Montero, con quien tuvo cuatro hijas: Beatriz, Sara, Gregoria y Rosa Alcira.