Auer nació en Veszprém, Imperio austríaco, en una familia judía, pero se convirtió al cristianismo posteriormente.

Después continuó su estudios con Ridley Kohné en Budapest, Jacques Dont en Viena y finalmente con Joseph Joachim en Hanóver.

En 1918, se trasladó a Estados Unidos, enseñando en algún momento en el Curtis Institute of Music de Filadelfia.

Enseñó a muchos violinistas que se hicieron famosos, como Samuel Dushkin, Efrem Zimbalist, Nathan Milstein, Mischa Elman y Jascha Heifetz.

Auer murió en Loschwitz, un suburbio de Dresde, Alemania y fue enterrado en el Cementerio Ferncliff en Hartsdale, Nueva York.