Pronto surgió una cercana e íntima amistad entre la princesa y ella, la cual pudo haber llegado a ser de carácter sexual.

Este acontecimiento tuvo lugar tras un incidente que convenció al rey de que Gourbillon ejercía una influencia nociva sobre María Josefina: una tarde, el rey y su hermano sorprendieron a Gourbillon en un pasillo portando un recipiente el cual trataba de ocultar, descubriéndose alcohol en su interior.

No obstante, su exilio de la corte duró poco tiempo, permitiéndosele retomar su puesto en 1790.

Durante su exilio, Gourbillon y María Josefina vivieron en Saboya, trasladándose posteriormente a Kiel.

Esta maniobra resultó en vano, renunciando finalmente María Josefina a abandonar sus habitaciones y permaneciendo aislada con una botella de whiskey, lo cual causó un escándalo público.