Aunque inicialmente militó en el anarquismo, se acabó convirtiendo en Secretario general del Partido Comunista de España (PCE) y ocuparía este cargo durante una década.

Su época como dirigente del PCE coincidió con la Segunda República y la guerra civil española.

[1]​ La llegada de Díaz a la dirección del PCE coincidió con una renovación generacional en el liderazgo del comunismo español, como fue el caso de Antonio Mije, Jesús Hernández o Dolores Ibárruri.

[6]​ Al igual que José Díaz, Barneto era un antiguo sindicalista procedente del anarquismo.

Otro destacado comunista sevillano fue Manuel Delicado, que posteriormente pasaría a ser un estrecho colaborador de Díaz.

Durante una reunión del Comité Central del PCE en marzo de 1937 declaró que estaban combatiendo "por una República democráctica, por una república democrática y parlamentaria de nuevo tipo y con un profundo componente social".

Durante los primeros meses de la contienda tanto sus hermanas, Carmen y Concha,[17]​ como su antigua compañera sentimental, Teresa Santos, fueron fusiladas en Sevilla por las fuerzas sublevadas del general Gonzalo Queipo de Llano, debido a su parentesco con el secretario general del PCE.

[4]​ Durante muchos años se especuló con el hecho de que había sido asesinado por sus discrepancias con Stalin, especialmente autores como Eduardo Comín Colomer.