En tibetano Tholing significa «flotando en el cielo por siempre jamás» y se refleja en la ubicación del monasterio a una altitud de 3 800 m s. n. m. El complejo incluye tres templos, el templo Yeshe-Ö, el Lhakhang Karpo y el Dukhang, en cuyos interiores se conservan frescos antiguos bien conservados.El rey patrocinó a jóvenes laicos que se convertirían en noviciados del monasterio.Con este propósito, patrocinó una beca para que Rinchen Zangpo viajara a la India para estudiar y traducir.Fue uno de los 21 jóvenes monjes que viajaron a la Vikramshila Mahavihara, una institución especializada en tantra, para recibir formación.Dos capillas, que datan del siglo XV, se utilizaron para almacenar granos durante la Revolución Cultural.Tholing se convirtió en un portal al Tíbet para que los eruditos indios visitaran y difundieran ideas religioso-culturales del budismo.La influencia del Reino Guge y el centro monástico de Tholing llegaron a ser conocidos en India desde Cachemira hasta Assam.Giuseppe Tucci visitó el monasterio en 1933 (Informe del profesor Tucci sobre su viaje al Tíbet occidental): "[…] el monasterio de Toling es uno de los más antiguos, ricos y bellos del Tíbet.[…] La lluvia cayendo a través del techo que no ha sido reparado durante años está arrastrando los maravillosos frescos".Presentó fotografías de las decoraciones del monasterio, estatuas y pinturas al mundo exterior.Durante los años de la Revolución Cultural, los templos fueron destruidos o abandonados a la intemperie.Se informa que el templo fue reconstruido después de haber sido demolido durante la Revolución Cultural, en un estilo mandala.El Neten Lakhang y la Capilla Tongy, que se consideraban hermosos, fueron totalmente destruidos.