Nacido en Taunusstein, ciudad próxima a Wiesbaden, Alemania, Erlenmeyer trabajó algunos años como farmacéutico tras estudiar medicina.

También estudió en Heidelberg con Friedrich Kekulé Erlenmeyer investigó junto a Robert Bunsen en el campo de los fertilizantes.

En 1880 formuló la llamada en su honor Regla de Erlenmeyer, que dice que cuando un alqueno tiene un grupo hidroxilo enlazado a uno de los carbonos del doble enlace, se convierte en aldehído o cetona.

Tuvo que dejar su trabajo académico en 1883 por motivos de salud, pero siguió colaborando como asesor.

Su hijo, Friedrich Gustav Carl Emil Erlenmeyer (1864-1921), quien también estudió química, continuó los trabajos de su padre.