Fue fundado por Caoshu Zhenduo, quien murió hacia 1053 a. C., hijo menor del Rey Wen de Zhou.
A partir de entonces, los gobernantes dejaron de titularse señores (君, Jūn) y especialmente condes (伯, Bó), y se vuelven duques (公, Gōng).
En Chengpu (632 a. C. Jin consiguió una victoria absoluta y después arrasó Cao, tomando a Gong como prisionero.
En 515 a. C., el duque Jin de Song capturó el duque Dao de Cao (曹悼公) y lo mantuvo prisionero hasta su muerte, provocando una guerra civil entre sus sucesores.
El duque Fei de Cao (曹廢公) invadió Song en 487 a. C., en venganza Jin lo conquistó.