Mikhail Saulovich 'Mischa' Elman nació en Talnoye, un pequeño pueblo cerca de Kiev.
Realizó sus primeros estudios musicales en la Academia Imperial de Música en Odessa.
Auer admitió a Elman en el Conservatorio de San Petersburgo.
Su debut en Londres en 1905 incluyó el estreno británico del Concierto para violín de Alexander Glazunov.
La familia Elman se trasladó a Estados Unidos y Mischa adquirió la nacionalidad en 1923.