Después de luchar en las líneas del frente con el Ejército Rojo durante la Guerra Civil, Berzine en 1918 se convirtió en comandante del Primer Regimiento Letón de Fusileros Letones, con responsabilidades especiales para la protección de Lenin.

Habiéndose ganado la confianza de Felix Dzerzhinsky, pronto se convirtió en miembro de la Cheka, la policía secreta.

En 1926, Stalin confió a Berzine la tarea de establecer el complejo de campos de trabajo en Vichera, en los Urales, conocido como Vichlag, para producir celulosa y papel.

Lleva a cabo esta misión con tanto entusiasmo como éxito.

Los 70 000 prisioneros fueron tratados relativamente bien, incluso recibieron un salario, y se les proporcionaron cines, bibliotecas, clubes de discusión y comedores.