Durante el reasentamiento del Distrito Warthe, en la primavera de 1944, acompañó al SS Obersturmbannführer Adolf Eichmann a Budapest, donde Krumey sirvió como miembro del grupo organizador de la deportación masiva de judíos húngaros a Auschwitz.
Krumey fue arrestado por los Aliados en 1945, pero como resultado del documento de defensa emitido por Rudolf Kasztner, que participó en las negociaciones con la SS en Hungría en 1944, no fue procesado sino liberado en 1948.
Activo en el gobierno local de Korbach (Hessen), Krumey fue arrestado en 1957, 1958 y, en 1960, finalmente permaneció en custodia hasta 1965.
Fue sentenciado por la Corte Penal de Fráncfort del Meno, ese mismo año a cinco años de prisión; sin embargo, debido al tiempo cumplido en la cárcel, fue liberado por haber permanecido el tiempo que determinó la sentencia.
Siguiendo la Apelación de la Fiscalía, se abrió un nuevo juicio entre 1968 y 1969.