A fines de 1927, el Komintern había dado instrucciones a los comunistas japoneses, que se habían organizado desde 1922, para redactar cartas políticas y organizativas (綱領) para un "Partido Comunista Japonés, Rama Nacional de Taiwán".
Siguiendo el borrador, Lin Mu-shun y Hsieh Hsueh-hung se reunieron en secreto en Shanghái con otras siete personas, tres de las cuales representaban a los partidos comunistas chino, coreano y japonés, respectivamente, para formar la naciente organización.
La primera sede del TCP se ubicó en la Concesión Francesa de Shanghái.
El liderazgo recayó en Hsieh Hsueh-hung para reorganizarse a la luz de ese desarrollo.
En 1931, la Unión de Campesinos dirigida por TCP estaba entrenando en secreto a los agricultores (muchos de la etnia Hakka) en preparación para la lucha armada para formar un soviet, uno que algunos creían que pronto obtendría el apoyo del Partido Comunista Chino.
Procedieron a purgar el liderazgo de los conservadores restantes y los izquierdistas que no son del TCP, particularmente Lien Wenqing.
El Komintern también favoreció inicialmente a los comunistas que se unían con las "fuerzas burguesas" para librar una guerra antiimperialista de liberación nacional.
Hsieh, el líder hasta entonces, se opuso al nuevo giro.
Ella y sus seguidores se vieron obligados a abandonar el partido.
El PCCh no ha mostrado interés reciente en promover el comunismo en Taiwán y, a partir de 2005, la mayoría de sus esfuerzos están dirigidos a promover el nacionalismo chino en la república de China, lo que ha llevado a relaciones cada vez más cálidas con la Coalición Pan-Azul.
Aun así, en 2000, Dai Chung, un residente taiwanés, se autoproclamó una "rama de la provincia de Taiwán" del PCCh sin solicitar el estatus oficial como partido político y sin ningún apoyo o interés del PCCh.