Hijo del director de instituto (Gymnasium) Josef August Diehl, Ernst Diehl estudió filología clásica y románica en Bonn con Hermann Usener, Franz Bücheler y Heinrich Nissen y después en Berlín, con Hermann Diels, Emil Hübner y Otto Kern.Se doctoró en 1897 y en 1906 fue nombrado profesor extraordinario de filología clásica en Jena.En 1911 recibió una cátedra de filología latina en Innsbruck; en 1925, en Halle, como sucesor de Georg Wissowa, cátedra que mantuvo hasta hacerse emérito en 1937.Posteriormente, Diehl dirigió el foco de sus esfuerzos a la filología griega.En este campo, su obra más importante fue la Anthologia Lyrica Graeca.
