El álbum fue producido en gran parte por el baterista Tim Powles, logrando una mayor presencia de la banda grabando sus jam sessions y minimizando el uso de overdubs.
[3] Tratando de replicar su sonido en directo, distintos críticos musicales y medios de comunicación destacaron la renovada energía presente en el material.
[4][5] Forget Yourself obtuvo mejores reseñas comparado a su álbum previo After Everything Now This, con John D. Luerssen para AllMusic describiéndolo como “un disco mágico y atemporal que está fácilmente al mismo nivel de su material cumbre de la década de 1980”, además de destacar a las canciones etéreas «Telepath», «Maya» y «June».
[6] Una opinión similar aparece en la reseña de Pitchfork Media, donde describe al material como «tradicionalista», al recapturar segmentos de álbumes previos como Priest=Aura en «Telepath».
Todas las canciones escritas y compuestas por Kilbey/Koppes/Powles/Willson-Piper.