Es considerado fundador del estudio de las enfermedades vegetales o fitopatología.

Su precoz interés en plantas y en el examen de champiñones y de algas le fue inspirado por George Fresenius, un doctor experto en talófitas que enseñaba Botánica en el Senckenberg Institut.

En 1850, parte a Berlín para seguir sus estudios de medicina, desarrollando su interés en la Botánica.

Con su diploma, de Bary practica un tiempo la medicina en Fráncfort, para retornar a la Botánica, y es concurrente ad honorem a la Universidad de Tubingen, donde trabaja como asistente del Dr. Hugo von Mohl (1805-1872).

En 1855 sucede al célebre botánico Karl Wilhelm von Nägeli (1818-1891) en Friburgo de Brisgovia, donde pone en marcha el laboratorio de Botánica, muy perfeccionado para la época, y dirige a muchos estudiantes.

En 1867 se incorpora a la Universidad de Halle-Wittenberg para suceder al profesor Diederich Franz Leonhard von Schlechtendal que, con Hugo von Mohl, había cofundado el primer journal de Botánica: Botaniche Zeitung.

Es el primero en introducir el término Myxomycota (o Mycetozoa) para englobar los animales inferiores y los mixomicetes.

Después pasa más de 15 años estudiando las Peronosporea, en particular la especie Phytophthora infestans y el género Cystopus (hoy Albugo).

Su descubrimiento expliqua porqué la erradicación del agracejo se utiliza para frenar su expansión.

Introduce el concepto simbiosis en 1879 en su monografía "Die Erscheinung der Symbios", publicada en Estrasburgo en 1879, como "la asociación viva de especies diferentes".