Goldenweiser nació en Kishinev, gobernación de Besarabia, Imperio ruso (actualmente Moldavia), y estudió en el Conservatorio de Moscú con Serguéi Tanéyev y Vasili Safónov, ganando la Medalla de Oro al piano en su graduación en 1897.
Se unió a la facultad del Conservatorio poco después, y durante su permanencia allí, sus pupilos han incluido a Grigori Ginzburg, Lázar Berman, Samuíl Feinberg, Dmitri Kabalevski, Galina Eguiazárova, Nikolái Petrov, Nikolái Kapustin, Aleksandr Braginsky, Sulamita Aronovsky, Tatiana Nikoláyeva, Dmitri Paperno, Oxana Yablónskaya, Nelly Akopián-Tamárina, Dmitri Bashkírov y muchos otros.
17, fue dedicada a él, así como Los fragmentos líricos de Medtner, op.
Melodía D-9123-4 (LP), lanzado 1961[4] Sketches contrapunto, op.
Con este trabajo Goldenweiser puede quizás reclamo juego como el primer compositor ruso para escribir un conjunto de piezas polifónicas en cada una de las tonalidades mayores y menores, todos los cuales aparecen en esta grabación.