En 1943 fue transferido al Sicherheitsdienst en La Haya, siendo asignado a la Sección IVB4, bajo las órdenes del SS Obersturmbannführer (Teniente coronel) Adolf Eichmann.

De los diez detenidos tan solo sobrevivieron Otto Frank, Victor Kugler y Johannes Kleimann.

Estos declararon no recordar más que el nombre de su superior, Karl Silberbauer.

Wiesenthal, según cuenta en su libro "Los Asesinos entre nosotros", pensó en solicitar la ayuda del padre de Anne, Otto Frank.

Simon Wiesenthal continuó la búsqueda y durante dos años fue descartando a otros catorce austriacos que tenían el mismo nombre.

Silberbauer admitió que él mismo había arrestado a Anne Frank.