Ingresó en la Orquesta Filarmónica de Nueva York en 1919 como violinista y fue nombrado primer viola en 1925, cargo que mantuvo hasta 1929, colaborando en esos años con Willem Mengelberg, Wilhelm Furtwängler y Arturo Toscanini, [3]​ siendo este último el que lo impulsó para comenzar su carrera como director.

Regresó a Nueva York como Director Musical de la Asociación Orquestal Nacional en 1970.

Sus años en el NOA se destacaron por la gran variedad de artistas que aparecieron bajo su dirección: Artur Schnabel, Claudio Arrau, Bronisław Huberman, Nathan Milstein, Ernst von Dohnányi, Emanuel Feuermann, William Primrose, Lillian Kallir, Joseph Szigeti, Felix Salmond, Myra Hess, Rudolf Serkin, Yehudi Menuhin, Ossip Gabrilowitsch, Lili Kraus, Mischa Elman, Elisabeth Schumann, Joseph Fuchs, Lillian Fuchs, Philippe Entremont, Leonard Rose, Zino Francescatti, Oscar Shumsky, William Kapell, Michael Rabin, David Nadien, Jacques Voois y Rosalyn Tureck.

Su técnica distintiva se enseñó como estándar en la Royal Academy of Music de Londres.

Barzin dirigió conciertos con solistas como Emanuel Feuermann (violonchelo), Ossip Gabrilowitsch (piano), Mischa Elman y Joseph Szigeti [4]​ (violín), Myra Hess, Rudolf Serkin (piano) y Artie Shaw (clarinete).