Durante los diez años siguientes, escribió ensayos y poemas; su cuento corto titulado "Hermit: an Oriental Tale" fue publicado en 1786.

En 1791 le respondió a Gilbert Wakefield con un panfleto, cuyo título fue Cursory Remarks on An Enquiry into the Expediency and Propriety of Public or Social Worship, usando el seudónimo Eusebia.

Hays contactó al editor del libro, Joseph Johnson, lo cual la llevó a trabar amistad con Wollstonecraft.

Como no tenía suficiente dinero como para comprar Justicia política, de William Godwin, le escribió al autor pidiéndoselo prestado.

La protagonista se enamora de un hombre sin dinero, Augustus Harley, y le ofrece vivir con él como si fuese su esposa pero sin contraer matrimonio.

El amor libre es visto como alineado con la vida social y la represión doméstica se muestra como confirmación del orden político.

Su siguiente novela The Victim of Prejudice (1799) es más feminista y critica las jerarquías sociales, además de ser en cierta forma melodramática.

La reacción violenta contra el Reino del Terror francés afectó las críticas de la novela: Hays fue considerada demasiado radical e histérica.