Se casó con Elisabeth Förster-Nietzsche, hermana del filósofo alemán Friedrich Wilhelm Nietzsche, en mayo de 1885.

Sus esfuerzos, en el sitio que se denominó Nueva Germania, no tuvieron el éxito esperado, llevándolo más tarde a instalarse en la localidad de San Bernardino.

En efecto, en 1889 se funda allí el famoso Club Alemán, que fuera expropiado en la década de 1940 por el presidente Higinio Morínigo para pasar a denominarse desde 1945 como Club Náutico de San Bernardino.

Como las ideas de carácter nacionalista se incrementaron en Paraguay hacia los años de 1930, entre los inmigrantes alemanes, Förster llegó a ser visto como un héroe.

En 1934, Adolf Hitler ordenó un servicio funerario en su memoria, arrojándose tierra alemana alrededor de su tumba.