[2]​ Cuando en 1861 estalló la guerra civil estadounidense, y pese a no tener estudios académicos ni experiencia militar, se unió al Ejército Confederado y fue nombrado como capitán de una compañía militar de montañeros, demostrando grandes capacidades en aquel cargo.

En 1868 se presentó, sin éxito, como candidato a la Gobernación de Georgia por el Partido Demócrata, siendo derrotado por el Republicano Rufus Bullock.

[3]​ En las elecciones al Senado de 1872 y 1873, fue elegido para ocupar un escaño en ese órgano legislativo.

[2]​[4]​ En 1886 regresó a la política al ser elegido Gobernador de Georgia, ocupando el cargo hasta 1890.

[4]​ Cuando se formó la organización United Confederate Veterans en 1890, Gordon fue presidente, cargo que ocupó hasta su muerte.

Publicó memorias de sus hazañas militares en Reminiscences of the Civil War (1903).