En 1947 empezó su carrera profesional como repetidor en el Teatro Colón y como pianista en Buenos Aires, donde dio una interpretación temprana de las obras para piano de Arnold Schoenberg en 1949 (el estreno en América del Sur).
Durante sus años al frente de esta agrupación, de 1986 a 1999, Gielen realizó numerosas grabaciones basadas en el repertorio contemporáneo y contribuyó decisivamente a convertir dicha formación en la orquesta más destacada del mundo a nivel del repertorio contemporáneo.
Michael Gielen fue, posiblemente, el director alemán más destacado en la difusión de la música contemporánea.
Sus interpretaciones estaban caracterizadas por una enorme claridad musical y un absoluto respeto a lo escrito en la partitura.
Poseedor de una inexorable energía, Gielen mostró una gran virtud para incidir en lo no oído, en lo diferente, con un ímpetu inconformista.