Tenía dos hermanos, siendo el mayor Ralph Noel, futuro político Foxite Whig y sexto baronet.
La pareja vivía en Melbourne House en Piccadilly y Elizabeth se convirtió rápidamente en una figura muy conocida en la sociedad Whig de Londres.
Lord David Cecil comentó que pocos niños han tenido una madre mejor, aunque su reputación de inmoralidad les causó cierta angustia: George una vez se peleó con un amigo que le dijo "tu madre es una puta".
Hasta ese momento, Lady Melbourne había disfrutado de un éxito sin igual como anfitriona política y rápidamente reconoció que la joven duquesa, con un rango más alto y mejores conexiones, sería más valiosa como amiga que como una rival.
Lord Melbourne, que tenía sus propios asuntos extramatrimoniales, no estaba muy preocupado por las infidelidades de su esposa.
Se dice que Melbourne en esa ocasión expresó su resentimiento por el favoritismo de su esposa hacia William, a quien Melbourne (como todos los demás) creía que era hijo de Lord Egremont.
La relación resultó ser beneficiosa para Lord Melbourne, quien fue nombrado caballero ayuda de cámara del príncipe George en Carlton House.
[1] Lady Elizabeth Foster estaba tan furiosa porque George Lamb parecía imperturbable por su negligencia hacia Caroline St.
Jules le recordó a Lady Melbourne que George Lamb la veía como una distracción de su trabajo en el teatro.
Jules terminara su relación con Henry Brougham, Lady Melbourne se reconcilió con ella y George Lamb.
Más adelante en la vida, Lady Melbourne entabló amistad con el poeta Lord Byron.
Aunque aprobaba el matrimonio de su hijo por motivos sociales, a Lady Melbourne le desagradaba mucho Caroline y su relación siempre fue mala.
Byron más tarde se casó con la sobrina de Lady Melbourne, Anne Isabella Milbanke.
Lady Melbourne tuvo seis hijos que sobrevivieron a la infancia; un par de gemelos murieron bebés en 1788.