[2]​ En el verano de 1896 un tío suyo que había emigrado a Estados Unidos le envió un pasaje a Estados Unidos, Ole viajó y se estableció en Union County, Dakota del Sur para ganarse la vida como trabajador agrícola.

Con ayuda de su pastor, Rølvaag concurrió a la Academia Augustana en Canton, Dakota del Sur donde se graduó en 1901.

En 1925, Rolvaag fue nombrado el primer secretario y archivista de la Asociación Histórica Noruego-Norteamericana, cargos que conserva toda su vida.

[4]​[5]​ Ole Rølvaag escribía en noruego, sin embargo sus novelas poseen un característico tono y temática norteamericana.

A su vez Rølvaag influyó de manera determinante en varios escritores noruegos que siguieron sus pasos.

Las novelas que Vilhelm Moberg escribió varias décadas después relatan la experiencia de los inmigrantes sueco-norteamericanos.

Su obra más famosa es la novela Gigantes en la Tierra (Noruego: Verdens Grøde), la cual forma parte de una trilogía.

El libro se encuentra en parte basado en las vivencias del propio Rolvaag como colono y las experiencias vividas por la familia de su esposa quienes también habían sido pioneros inmigrantes.