El primer emperador que empezó a construir fortificaciones a lo largo de la frontera fue Octavio Augusto, poco después de la devastadora derrota romana en la batalla del bosque de Teutoburgo en el año 9 d. C. Originalmente, hubo numerosos muros fronterizos, que luego fueron conectados para formar la frontera germana superior a lo largo del Rin y luego la frontera de Recia a lo largo del Danubio.

Más tarde estos muros se unieron para formar una línea fronteriza común.

La sección septentrional de esta frontera, donde el Rin es hondo y ancho, siguió siendo el límite romano hasta que cayó el imperio.

Las poblaciones germanas de estas tierras parecen haber sido escasas en época romana, y los súbditos romanos de la moderna Alsacia-Lorena marchaban lentamente cruzando el río hacia el Este.

El primer avance tuvo lugar alrededor del año 74, cuando lo que hoy es Baden fue invadido y en parte anexionado, y una calzada iba desde la base romana en el Alto Rin, Estrasburgo, al Danubio justo por encima de Ulm.

Extendió el territorio romano al este de Moguntiacum, encerrando todo el resultado dentro de una frontera sistemáticamente delimitada y defendida con numerosos fortines situados a lo largo del límite y grandes fuertes en la retaguardia.

Quizá Adriano o, más probablemente, su sucesor Antonino Pío siguieron más allá de Odenwald y el Danubio, y marcaron una nueva frontera aproximadamente paralalela, pero como avanzadilla de estas dos líneas, aunque algunas veces, como sobre el Taunus, coincide con la línea precedente.

Consiste, como puede verse hoy, de dos distintas obras fronterizas: una, conocida como el Pfahlgraben, es un montículo de tierra con estacas en lo alto y una zanja en frente del montículo, que donde mejor se ve es cerca del Saalburgo pero que en el pasado se extendió desde el Rin hacia el sur en la Alemania meridional.

Esta frontera se mantuvo durante cerca de cien años, y sin duda durante ese largo período se debió hacer mucho trabajo, aunque las fechas exactas sean difíciles de fijar.

El limes nunca pudo impedir a tribus germánicas enteras entrar en el territorio del Imperio romano.

Este conocimiento de todos los grupos que cruzaban la frontera era importante para el Imperio romano.

Cualquier grupo hostil que consiguiera cruzar esta zona de defensa podía viajar con libertad dentro del imperio sin resistencias significativas.