Fue el erudito alemán más importante en filología india después de Max Müller (1823-1900).

[2]​ Zimmer comenzó su carrera estudiando sánscrito y lingüística en la Universidad de Berlín donde se recibió en 1913.

[3]​ Entre 1920 y 1924 se docencia en la Universidad de Greifswald, trasladándose a Heidelberg para ocupar la presidencia en filología india.

En 1938 fue despedido por los nazis, emigrando a Inglaterra donde entre 1939 y 1940 sería profesor en el Balliol College (Oxford).

Se le atribuye a Zimmer su popularización del arte surasiático en Occidente.