Retornó a su trabajo como dirigente de la central sindical soviética.
En 1957 Shvérnik volvió a ser miembro titular del Politburó, permaneciendo en él hasta su jubilación en 1966.
Su padre, Mijaíl Shvérnik, era un sargento mayor retirado del ejército zarista, su madre era una campesina oriunda del pueblo de Liski, en el óblast de Pskov.
[2] En 1905, a los 17 años, se unió al Partido Obrero Socialdemócrata de Rusia (POSDR), donde dirigió la propaganda del partido en San Petersburgo, Mikolaiv, Tula y Samara.
En 1913, para evitar su arresto, abandonó San Petersburgo, y se trasladó a Tula, donde trabajó por un tiempo.
De regreso a la capital, consiguió trabajo en una fábrica, y retomó la propaganda antigubernamental, por lo que fue enviado de vuelta a Tula.
Allí conoció a María Ulazovskaya, una trabajadora quien también había sido exiliada por la policía, la cual se convirtió en su esposa.
En 1915, junto con su esposa, se exilió en Samara, donde consiguió trabajo en una fábrica, y estableció contacto con los bolcheviques, comenzando a involucrarse en actividades revolucionarias.
[3] En junio de 1918, participó en batallas contra la Legión Checoslovaca, la cual había conseguido capturar Samara junto con el Ejército Blanco.
Inició una campaña fallida para aumentar el papel de los campesinos.
En 1947, apoyó un decreto propuesto por Stalin para abolir la pena de muerte en el país.
Shvérnik se casó con Maria Ulazovskaya, con quien tuvo una hija en 1916, Liudmilla.
En 1942, adoptaron a otra hija, Ziba Ganieva, una francotiradora que luchó en la Gran Guerra Patria.