Un edificio mayor, diseñado por George Dance the Elder, fue consagrado en 1766.
El edificio fue diseñado en estilo clásico por el arquitecto John Adam.
Los duques observaron el culto religioso sentados en elegantes sillones renacentistas egipcios.
En 1819 Augusto Charles Pugin y Thomas Rowlandson dibujaron un aguatinta en el interior, publicado originalmente en la popular revista ilustrada de la época, Ackermann's Repository of Arts.
Pugin dibujó una hermosa representación de las columnas jónicas de apoyo a los balcones y la decoración clásica del edificio.