Tras la guerra escapó a Argentina ayudado por Hans-Caspar Kreuger, donde vivió oculto por las autoridades locales hasta que finalmente fue capturado y en 1987 extraditado a Alemania; su captura costó al estado alemán de Baden-Württemberg unos 500 000 marcos alemanes.
Durante su juicio, que duró casi un año (1991-1992) negó ser culpable de los crímenes que se le imputaban; simplemente admitió que el "Ghetto A" fue llevado al campo de Przemyśl.
En agosto del año 2002 el tribunal regional de Mannheim declinó un recurso de apelación debido a la inusual crueldad de sus crímenes; había sido considerado culpable de realizar asesinatos arbitrarios en función de su odio racial hacia los judíos siendo hallado culpable por un tribunal alemán.
Josef Schwammberger murió en el hospital de la prisión Hohenasperg en Ludwigsburg el 3 de diciembre del año 2004, con 92 años.
El principal responsable de llevarlo ante la justicia fue Simon Wiesenthal.