Tras un tiempo destinado en el norte de Francia después de la guerra, decidió continuar su carrera en el ejército, incorporándose en Coblenza a la Academia Militar de nueva creación, donde se especializó en topografía, pasando a integrarse en el gabinete cartográfico del Estado Mayor del Ejército Prusiano.

Siendo Comisario del Estado Mayor General, entre 1831 y 1836 desarrolló en Prusia Oriental importantes trabajos geodésicos en colaboración con el astrónomo Bessel para conectar las triangulaciones de Prusia y de Rusia.

Baeyer publicó los resultados de estos trabajos en diversos libros.

Desde 1835 hasta su retiro del Ejército como Teniente General en 1857, dirigió numerosos e importantes trabajos de agrimensura en Prusia.

En 1858 fue nombrado Teniente General, y fue encargado de la planificación y ejecución de la medición del arco centroeuropeo del paralelo 52.

Los trabajos para la medición del arco de Europa Central comenzaron en 1862 en Berlín, con las primeras deliberaciones, en las que se decidió edificar en 1864 en Berlín la "Oficina Central de Medición de Nivel Europeo", junto al despacho que ocupaba Baeyer.

A propuesta de Baeyer, se fundó el Instituto Geodésico en Berlín en 1869, cuya dirección ocupó hasta su muerte.

La inscripción dice: " Al fundador de la / Geodesia Internacional / 1794-1885 / Johann Jacob Baeyer / en Müggelheim / con ocasión del 100 aniversario / de la Geodesia Internacional / en 1962. "