Su debut cinematográfico se había producido en 1923 con el film Wife in Name Only, y su última película fue Lydia en 1941.
Oliver ganó notoriedad por sus actuaciones en varias comedias protagonizadas por Bert Wheeler y Robert Woolsey, entre ellas Half Shot at Sunrise, su primer título bajo contrato con RKO Pictures en 1930.
Aunque casi siempre interpretaba papeles de reparto, protagonizó 10 filmes, entre ellos Fanny Foley Herself y Ladies of the Jury.
Aunque el estudio intentó continuar la serie con Helen Broderick y, más adelante, con ZaSu Pitts, estas películas no tuvieron éxito.
Fue nominada al Óscar a la mejor actriz de reparto en 1939 por su actuación en Drums Along the Mohawk.