En 1986 se casa en segundas nupcias con la actriz checoslovaca Dana Vávrová, que aparece en numerosos films del director.
Joseph Vilmaier comienza como asistente de cámara y de dirección en producciones televisivas, pero es en el año 1989 cuando se estrena como director en la gran pantalla con la película Herbstmilch, un drama bélico protagonizado por su esposa Dana Vávrová.
En 1991 dirige Rama Dama y dos años más tarde, uno de sus films más conocidos: la película bélica Stalingrado, en la cual también participa como guionista.
En los últimos años su producción se centró mayormente en la televisión.
Joseph Vilmaier también se desempeñó como director de fotografía en algunas películas.