Tuvo mucha presión para estudiar medicina, y finalmente se decidió unirse a la Legión Extranjera Francesa en el área médica.
Fue en ese viaje que fue atacado y dado por muerto, con la pierna casi separada de su cuerpo.
Luego de ese viaje, Rohlfs fue el primero europeo en cruzar del norte de África hacia el sur; donde su ruta lo llevó a Trípoli y atravesó el desierto del Sahara, y el lago Chad, a través del río Níger y hacia el golfo de Guinea, desde 1865 hasta 1867.
Fue el segundo europeo explorador en visitar la región del río Draa en el sur de Marruecos.
In 1874 Rohlfs partió del oasis Dakhla con intención de llegar a Kufra.