Oliver estudió en el London Academy of Music and Dramatic Art (LAMDA).
La pareja le dio la bienvenida a su primer hijo en abril del 2017.
En el 2004 obtuvo un pequeño papel en la película Wimbledon protagnozada por Paul Bettany y Kirsten Dunst.
En el 2006 apareció en la miniserie The Line of Beauty donde interpretó a Toby Fedden.
[2] En el 2008 interpretó a Sir Henry Percy en la película The Other Boleyn Girl protagonizada por Eric Bana, Natalie Portman y Scarlett Johansson.