Se piensa que pudo haber recibido una educación musical en el colegio jesuita de Praga, llamado Clementinum.
A pesar de ello y debido a que Zelenka era considerado un compositor demasiado conservador en su tiempo (al igual que Johann Sebastian Bach), la mayor parte de su obra quedó en el olvido después de su muerte, y no fue sino hasta finales del siglo XX cuando algunas de sus obras volvieron a interpretarse.
Entre éstas destaca la ópera latina Sub olea pacis et palma virtutis.
Entre sus obras instrumentales se encuentran: 6 sonatas de cámara, 5 capriccios para orquesta, una sinfonía, una suite-obertura, una obertura de programa, Hipochondria, y un concierto para orquesta en sol mayor.
Zelenka se muestra próximo a los grandes maestros del Barroco tardío.