En 1934, Oberhauser se alistó por dieciocho meses en el Reichswehr y fue asignado al 19.º Regimiento de Infantería en Múnich.
Oberhauser fue adscrito al Leibstandarte SS Adolf Hitler en 1939 y participó en la campaña de Polonia.
La campaña polaca vio a Oberhauser ser promovido al rango de SS-Oberscharführer.
Entre 1942 y 1943, estuvo trabajando en el Campo Aéreo de Lublin, en la Polonia ocupada.
Seguido de su liberación, Oberhauser trabajó haciendo oficios temporales y como mesero en Múnich.