La familia se trasladó a Graz, en donde el padre consiguió un puesto en el gobierno estatal (Landesregierung) de Estiria.

Nikolaus Harnoncourt fundó el Concentus Musicus Wien con su esposa, Alicia Hoffelner, en 1953 mientras tocaba el violonchelo con la Orquesta Sinfónica de Viena.

Posteriormente tocó con muchas otras orquestas usando instrumentos modernos, pero con la atención puesta en la autenticidad histórica en términos de tempo, dinámicas, etc.

En 1971, Harnoncourt comenzó un proyecto en común con el director Gustav Leonhardt para grabar todas las cantatas de Johann Sebastian Bach.

De este modo se atiende también al criterio historicista en el aspecto vocal, que apenas ha sido tenido en cuenta.

Sus producciones de la música de Schumann, Wagner, Verdi, Bizet y Offenbach han sido alabadas por la crítica, aunque su mayor éxito fue una representación integral del Idomeneo mozartiano en 2008, que fue considerada como un acontecimiento musical (según la crónica entusiasta del Frankfurter Runschau).

Parece como si Harnoncourt quisiera subrayar lo meramente ideológico en la imagen ligera de Mozart, y lo que en la visión habitual queda silenciado por una perfección aparente se convierte en su caso en una impulsiva energía que busca la fibra más profunda.