Hijo de un mecánico, estudió en Fráncfort del Meno piano, oboe y canto.Entre 1963 y 1970, Stein fue director de orquesta y ópera en el Teatro Nacional de Mannheim.Stein dirigió regularmente en la Ópera Estatal de Viena entre 1969 y 1971.Regresó a la Ópera del Estado de Hamburgo como director musical general en 1972 y ocupó el cargo hasta 1977.Lo hizo para directores como Joseph Keilberth, Hans Knappertsbusch, Clemens Krauss o Herbert von Karajan.