Su carrera académica empezó en Cambridge (en el Clare Hall), y luego como profesor de historiador del arte en la Universidad de Mánchester.
Entre 1984 y 1989, Penny fue conservador del Ashmolean Museum, de Oxford.
En 1990, inició su relación con la National Gallery, como conservador de pintura renacentista.
Penny siguió trabajando en la National Gallery, en 2002 fue nombrado conservador jefe de escultura en la National Gallery of Art de Washington.
Penny escribe regularmente en The Burlington Magazine y en el London Review of Books.