Su iniciación musical la llevó a cabo con Johann Woborschill profesor del colegio de los jesuitas de Chomutov, ciudad cercana a Most.
Posteriormente se trasladó a Italia donde fue alumno del Padre Martini.
Su carrera como compositor operístico la inició con la puesta en escena de Merope, obra que se estrenó en el Teatro San Moisè de Venecia durante la temporada de carnaval del año 1757; siendo nombrado ese mismo año director del coro de niños del Conservatorio degli Incurabili.
En 1766 Gassmann conoció en Venecia a Antonio Salieri, que por aquel entonces contaba con 16 años, y lo invitó a visitar Viena convirtiéndolo en su alumno.
Gassmann tuvo dos hijas que llegaron a ser, bajo el magisterio de Salieri, cantantes famosas: Anna Fux y Therese Rosenbaum.