Él comenzó su carrera como un amigo del guitarrista de Pink Floyd, David Gilmour.

A partir de ahí, Gilmour le convenció para participar en álbumes de estudio de Pink Floyd , incluyendo The Dark Side of the Moon, Wish You Were Here y The Division Bell, así como en cada presentación en vivo de Pink Floyd entre 1973 y 1977, (aportando algunos teclados tras bambalinas en la gira "In The Flesh" que presentaba los temas del discos Animals) y en el mundo 1994 tour.

Parry apareció en fechas en vivo al lado de Gilmour en 2001 y 2002 , una actuación de la que fue lanzada como David Gilmour in Concert.

También participó en el 2006 en la gira On An Island por Europa, Estados Unidos y Canadá, tocando el saxofón en "Shine On You Crazy Diamond", "Wearing the Inside Out", y "Then I Close My Eyes".

Antes, en 2005, apareció en la reunión de Pink Floyd en el Live 8, donde toco su parte en "Money".