Se encuentra en la orilla oriental del río Kuri Chhu y está ubicado al final de un estrecho valle.

[1]​ El dzong fue inicialmente conocido como Kurtoe, en el entonces aislado distrito de Lhuntse.

[4]​ El Kuri Chhu es el río principal en el valle, con picos altos y colinas empinadas.

El monasterio fue establecido originalmente por el hijo de Pema Lingpa, Kuenga Wanpo, en 1543, aunque no fue hasta 1654 que el penlop de Trongsa (gobernador), Minjur Tenpa, construyó un dzong formal en el lugar tras ganar una batalla, y lo llamó Lhuentse Rinchentse.

[3]​ Alberga muchos artefactos sagrados que fueron instalados por el cuarto Druk Desi Tenzin Rabgay.

Otros lugares de peregrinación conocidos del distrito son Singye Dzong, el beyul Khenpajong y Phunying Pass.