Más tarde, Guillaume tomaría un rol activo en la fundación de la Internacional Anarquista (St Imier).
James también jugó un importante papel en la transformación hacia el anarquismo de Piotr Kropotkin.
Guillaume consideraría al sindicalismo revolucionario como el heredero político de la Primera Internacional.
En París, colaboró con la revista Revue Pédagogique y contribuyó desde 1877 con el Dictionnaire de Pédagogie editado por Fernidand Buisson.
Guillaume es tal vez más conocido por el enorme trabajo de 4 tomos titulado "L' International: Documents et Souvenirs" los cuales documentan la posición anarquista dentro de la Primera Internacional.