Franz estudió durante ocho años en la escuela elemental y después comenzó a trabajar como aprendiz y chico de los recados en un almacén comercial.
Se unió a las Schutzstaffel (SS) y al Partido nazi (NSDAP).
Ese mismo año resultó gravemente herido en la rodilla durante un entrenamiento y precisó una prolongada hospitalización.
En el año 1938 Franz Ziereis fue transferido a la recientemente anexionada Austria, donde entrenó a varios jóvenes soldados de las SS del regimiento Turingia de las SS.
Su cadáver fue colgado por antiguos prisioneros en la verja del campo de Gusen I.