Joseph Kurtz nació en Mahanoy Ciudad, Pensilvania, a George y Stella (née Zmijewski) Kurtz.
[1] Uno de cinco niños (Rose Marie, Theresa, George, y Patricia), comenzó los estudios en el Seminario San Carlos Borromeo en 1964, donde obtuvo un bachillerato en filosofía y una maestría en Divinidad.
Durante su ministerio sacerdotal en la Diócesis de Allentown, sirvió como profesor universitario, administrador y párroco en Catasauqua y Bethlehem.
Fue elevado al rango de Monseñor en 1986.
Recibió su consagración episcopal en diciembre de ese año por el Arzobispo Gabriel Montalvo Higuera, con el Arzobispo Thomas Kelly, OP, y el Obispo Edward Cullen que sirvieron como co-consagrantes, ante una multitud de aproximadamente 5,000 personas en el Centro de Convenciones Knoxville.