En marzo del año siguiente reunió a los diversos grupos bolchevistas regionales para crear el Partido Comunista Brasileño (PCB por sus siglas), reconocido dos años después como Sección brasileña de la III Internacional.
En 1924 realiza su primer viaje a la Unión Soviética como Secretario General del partido.
El año siguiente, junto con Otávio Brandão, inició la publicación del periódico A Classe Operária, que a la postre sería órgano oficial del PCB.
En 1927 viajó a Bolivia para entrar en contacto con el líder tenentista Luís Carlos Prestes, que se había refugiado allí.
Sin embargo, esa política de «obrerización» acabó alcanzando al propio Pereira en noviembre del mismo año, cuando fue alejado de la Secretaría General del PCB.