Sin embargo, y pese a adoptar un credo fundamentalmente calvinista, optó por permanecer en la Iglesia Anglicana.

Su estilo es a menudo grandilocuente, pero muestra un raro aprecio de la belleza natural, y su sencilla piedad le hizo muchos amigos.

Theron y Aspasio, o una serie de Cartas sobre los temas más importantes e interesantes, que apareció en 1755 y fue igualmente bien recibida, suscitó empero algunas críticas adversas, incluso de los calvinistas, por haber notado estos tendencias teológicas hacia la herejía del antinomismo, y Wesley protestó con energía por esto en su Preservativo contra las nociones inestables en la religión.

Hervey tuvo un impacto duradero en el arte a través de William Blake, quien era admirador suyo.

Aparte de esto, es preciso denotar que el tono sombrío y arrollador de sus seis Meditations among the tombs / Meditaciones entre las tumbas, 1746 (por ejemplo, "el espantoso placer que inspira contemplar los monumentos caídos y las tumbas en descomposición") ha llevado a que se le ubique entre los miembros de la poética "Escuela del cementerio" del siglo XVIII, aun siendo esencialmente prosista.