Estudió filosofía en Tubinga, Múnich y Berlín, pero ya avanzada su formación fue dedicando cada vez más tiempo a la actuación.

Allí debutó como Siegfried en Die Nibelungen, obteniendo una favorable crítica de Eugen Zabel.

Múnich fue su nuevo hogar desde entonces y hasta su muerte 44 años después.

Allí despegó su carrera, trabajando en obras como Der Roßdieb von Fünsing, Die Schmetterlingsschlacht, Hamlet, Egmont, Jugend von heute, Mucho ruido y pocas nueces y Fausto, donde pudo demostrar su habilidad como cantante.

Unos meses después de Rühmann (1919), instruyó también a un joven político sobre gestos, expresiones faciales y retórica: Adolf Hitler.