Zeller nació en Sankt Peter in der Au,[1]​ hijo único del médico Johann Zeller y Maria Anna Elizabeth.

[1]​ En 1875, Zeller se casó con Anna Maria Schwetz.

Trabajó como funcionario en el Ministerio Imperial de Educación al tiempo que componía canciones (Dios Os saluda a todos y Regálate rosas en el Tirol), obras corales y una serie de operetas, la más famosa de las cuales es Der Vogelhändler (El pajarero).

Problemas legales, incluida una condena por perjurio, pusieron fin a la carrera de Zeller en el ministerio y le llevaron a prisión y a la desgracia pública a mediados de los años 1890 (aunque su sentencia de cárcel fue más tarde revocada).

[2]​ Después de una herida en 1895 al caerse sobre el hielo, pasó sus últimos años física y mentalmente enfermo.