En 1933, la Alemania nazi lo obligó a formar parte del Jüdischer Kulturbund de Berlín.

En 1935 no se le permitió entrar al país en 1936 cuando regresaba de una gira italiana, marchándose a Rusia al tener allí a algunos familiares.

Se naturalizó ciudadano soviético y fue íntimo amigo de Dmitri Shostakovich, quien consideraba uno de sus cinco grandes amigos junto a Mravinsky, David Oistrakh, Mstislav Rostropovich y Galina Vishnevskaya.

En 1970 debutó en Inglaterra con la Orquesta del Gewandhaus de Leipzig y sustituyendo a Otto Klemperer al frente de la Philharmonia Orchestra, formación que se adaptaba como anillo al dedo a las características de Sanderling como director y que acabó nombrándole como director emérito en 1996.

Más tarde Sanderling inició su colaboración con la Orquesta Sinfónica Yomiuri Nippon de Tokio.

Su repertorio era muy amplio, con predilección por Beethoven, Brahms, Bruckner y Mahler, siguiendo sus versiones la tradición interpretativa germánica, pero siendo a la vez muy personales e identificables por su estilo terso y rico de matices.