Era hijo de un ministro religioso y hermano del grabador en cobre Wilhelm Frederick Gmelin.
Ese mismo año, Gmelin se va a Karlsruhe como doctor, mientras enseña Ciencias naturales en Colegios Secundarios, posición como oficial durante cincuenta años.
En 1794 el Gabinete natural es mudado debido a las guerras revolucionarias, que llegaría luego de Ansbach donde se reagruparon y permanecido hasta 1797.
Gmelin escribió varios libros, como Flora Badensis Alsatica.
Hizo amigos como el poeta Johann Peter Hebel, manteniendo extensa correspondencia y que luego usó su epónimo en Flora badensis.... Hebelia allemannica (hoy Tofieldia calyculata Wahlenb.