En 1933, se casó con la soprano Maria Ivogün recientemente divorciada de Karl Erb.
Raucheisen había estado casado en primeras nupcias con Hedwig Schwalm, madre de su hijo Erhard Raucheisen nacido en 1931 y brevemente con la soprano estadounidense Marión Talley (1906-1983).
A partir de la década de 1920 adquirió notoriedad como acompañante de famosas cantantes como Frida Leider, Erna Berger, Elisabeth Schwarzkopf, Karl Schmitt-Walter, Hans Hotter, Margarete Klose, Julius Patzak, Martha Fuchs, Maria Müller, Franz Völker, Herbert Janssen, Peter Anders y Helge Roswaenge.
Al finalizar la Segunda Guerra Mundial le fue prohibido actuar por asociación con el régimen nazi.
En el año 2005 se publicó la Edición Raucheisen de 66 discos compactos con obras de Weber, Nicolai, Wolf, Reger, Marschner, Grieg, Schubert, Cornelius, Beethoven, Strauss, Pfitzner, Schumann, Brahms, Loewe, Liszt y la participación de Hans Hotter, Erna Berger, Kurt Böhme, Anton Dermota, Lorenz Fehenberger, Josef Greindl, Margarete Klose, Frida Leider, Julius Patzak y otros.