[1]​ En 1765 ingresó en el Convento de San Felipe el Real, en la Orden de San Agustín, en la que profesó tres años después;[2]​[3]​ En 1772 marchó a Salamanca donde, con el nombre poético de Liseno, formó parte del grupo de poetas ilustrados denominado Escuela salmantina en torno a fray Diego Tadeo González, quien junto a José Cadalso fue su mentor.

En 1800 fue nombrado para suceder al padre Manuel Risco en la continuación de la obra histórica del padre Enrique Flórez, la monumental España Sagrada; la frágil salud de Fernández, su poca inclinación a las investigaciones históricas y el saqueo de la biblioteca de Flórez durante la Guerra de Independencia, motivaron que la obra no avanzara nada durante el tiempo que estuvo bajo su dirección, por lo que en 1816 fue exonerado de dicha comisión, siendo sustituido por Antolín Merino y José de la Canal.

Existe un magnífico retrato suyo realizado por Francisco de Goya, quien fue amigo suyo; perteneció a su sobrina, María del Carmen Arteaga, viuda de Marcelo Reboto, médico de Fernando VII, y que ahora está en la Real Academia de la Historia.

Escribió poesía anacreóntica y bucólica, y alguna composición desvergonzada como "Pájaro en la liga" que le atribuye José León, pero destacó más como escritor satírico.

Se ocupó de editar las Poesías de fray Diego Tadeo González (1796), aunque el autor había ordenado que se destruyeran.