Estudió oboe en el conservatorio nacional superior de música de París con Pierre Pierlot, así como composición con Pierre Boulez y Sándor Veress.
Es uno de los oboístas más famosos, y numerosas obras han sido compuestas para él.
En 1972 Holliger, Maurice Bourgue (oboe), Klaus Thunemann (fagot), Christiane Jaccottet (bajo continuo) y otros grabaron las Seis Trío Sonatas para oboe y fagot de Jan Dismas Zelenka.
Esta grabación supuso el renacimiento de este compositor.
Con motivo del 70 aniversario de Paul Sacher, Holliger fue uno de los doce compositores amigos suyos a los que el violonchelista ruso Mstislav Rostropovich les pidió que escribieran composiciones para violonchelo solo para las notas musicales de su nombre haciendo de tema (S, A, C, H, E, R) (mib, la do, si, mi, re).