Parry se formó en la Universidad de Cambridge y la Royal Academy of Music en Londres.
Continuó sus estudios con Sergiu Celibidache en España, abarcando un amplio repertorio y posteriormente ha trabajado en la Ópera de Dortmund, Opera North y Glyndebourne, y se convirtió en director musical de la English Touring Opera desde 1983 hasta 1987.
Es un controvertido y franco defensor de la forma operística, y un apasionado abogado por la ópera en inglés",[2] su obra incluye una amplia discografía de completas grabaciones de ópera de trabajos raramente representados en los sellos discográficos Opera Rara y Chandos, así como obras grabadas con bien conocidas orquestas europeas y británicas.
Entre sus grabaciones están obras de compositores como Vincenzo Bellini (La straniera), Gioachino Rossini (Ricciardo e Zoraide), Giovanni Pacini, Simon Mayr y Saverio Mercadante (Emma d'Antiochia).
Actualmente es un asociado artístico en el Festival de Norfolk y Norwich y un asesor artístico de Opera Rara.