Es uno de los actores alemanes más conocidos internacionalmente durante el siglo XX.
En 1938 se divorció de su esposa judía, Maria Bernheim, que se casó con un actor sueco, y antes de que estallara la Segunda Guerra Mundial, viajó a Estocolmo y, como resultado, sobrevivió al Holocausto.
[1] El divorcio provocó que Rühmann fuera acusado de querer asegurar su carrera; sin embargo, el matrimonio probablemente ya se había desmoronado, y algunas fuentes dicen que quería proteger a su esposa con el divorcio.
[3] Su segunda esposa, Hertha Feiler, con quien se casó poco después, tenía un abuelo judío, un hecho que causó problemas a Rühmann con las autoridades culturales nazis.
Rühmann conservó su reputación como estrella apolítica durante toda la era nazi.