Fue el trastatarabuelo de la reina Isabel II del Reino Unido (por parte materna) y, por lo tanto, antecesor del actual rey Carlos III.
Se desempeñó como Primer Lord del Tesoro (First Lord of the Treasury) en este ministerio hasta su caída en diciembre del mismo año.
La misión del hospital era cuidar a los niños abandonados en Londres y alcanzó fama rápidamente a través de su misión conmovedora, su colección de arte donada por apoyar a los artistas y conciertos populares benéficos de Georg Friedrich Händel.
Junto con muchos otros conservadores whigs (como Edmund Burke), el duque estaba muy incómodo con la Revolución Francesa, y finalmente rompió con Fox por este motivo, uniéndose al gobierno de William Pitt (el Joven) como secretario del Interior en 1794.
Continuó desempeñándose en el gabinete hasta la muerte de Pitt en 1806 (aunque de 1801 a 1805 como Presidente del Consejo (Lord President of the Council), y luego como ministro sin cartera.