Von Hiller nació en una familia militar, lo que lo llevó a unirse al ejército y servir como cadete en un regimiento sajón y como teniente en los Dragones de Wurtemberg.
Se convirtió en capitán mientras formaba parte de un regimiento fronterizo en 1774, el mismo que terminaría comandando años después.
Hiller luchó en el frente prusiano durante la Guerra de Sucesión Baviera (1778-1779).
Durante el sitio de Berbir, von Hiller nuevamente se distinguió y fue ascendido a Coronel.
En 1796 von Hiller comandó una brigada en el ejército del Rin, pero su pobre estado de salud lo obligó a retirarse.
Cuando la guerra contra Francia estalló en 1809, von Hiller recibió el comando de los VI Armee Korps que cubrían el flanco izquierdo del principal ejército austríaco.