Su primera actuación en el cine tuvo lugar con The Woman in White (1929), de Herbert Wilcox, llegando a ser un rostro familiar del público británico y, ocasionalmente, también del estadounidense, hasta el momento de su muerte.
Actuó también en dos cintas dirigidas por Alfred Hitchcock, The Lady Vanishes (1938) y Under Capricorn (1949).
Otras de sus películas destacadas fueron Storm in a Teacup (1937), 23 Paces to Baker Street (1956), Dangerous Moonlight (1941), Swiss Family Robinson (1960), y I Was Monty's Double (1958), así como las comedias A French Mistress (1960), El quinteto de la muerte (1955), The Man in the White Suit (1951), The Court Jester (1955), y I Believe in You (1952).
Parker actuó en diversas ocasiones en películas estadounidenses, como fue el caso de The Court Jester (1956, junto al cómico Danny Kaye) y Indiscreet (1958, comedia refinada en la que interpretaba a Alfred Munson, actuando junto a Cary Grant, Ingrid Bergman y Phyllis Calvert).
Parker interpretó a menudo a personajes de la clase alta británica, lo cual confirmó en sus dos últimas películas, The Magnificent Two (1967, junto al dúo cómico formado por Eric Morecambe y Ernie Wise), y la cinta dirigida por Richard Attenborough Oh!