Allí tomó clases de piano y bajo continuo con Gottfried August Homilius.
Después de trabajar para el Conde Brühl en Dresde, Hiller regresa a Leipzig, empezando a trabajar como director de orquesta, cargo que ocupó hasta 1771.
También fundó una escuela en la que se enseñaba a los jóvenes músicos la práctica de distintos instrumentos y la disciplina del canto.
Dos de sus estudiantes más famosos fueron Corona Schröter y Gertrud Elisabeth Mara.
Pasó dos años en Breslavia y regresó a Leipzig en 1789 para convertirse en el Thomaskantor de la Iglesia de Santo Tomás, puesto ocupado anteriormente por Johann Sebastian Bach.