El nombre de la ciudad (y la ciudad en sí) deriva del Templo Tianhou de Penghu, un santuario en honor a la diosa china del mar Matsu que fue construido por la dinastía Qing al tomar posesión de la isla en 1604.

Hasta la retirada de los franceses, Magong había sido simplemente un modesto pueblo portuario formado en las inmediaciones del templo.

Sin embargo, a partir de entonces la ciudad vivió una acelerada expansión y desarrollo.

Tras la derrota nipona en la Segunda Guerra Mundial, la isla volvió a soberanía china en 1945.

La ciudad de Magong contiene 33 aldeas municipales[4]​ (en chino, 里; pinyin, lǐ):