En 1899, Smirnov se unió al Partido Obrero Socialdemócrata de Rusia y realizó actividades en Moscú, San Petersburgo, Rostov, Járkov y Tomsk, por lo cual fue arrestado varias veces por la policía zarista.

En 1916, durante la Primera Guerra Mundial, Smirnov fue llamado a prestar servicio militar en un regimiento acantonado en Tomsk, donde realizó activa propaganda bolchevique, siendo al año siguiente uno de los líderes del soviet de Tomsk.

Tras estas actividades Smirnov fue integrado al comité del partido en Leningrado y allí se hizo uno de los principales asistentes de Grigori Zinóviev, participando en ejecuciones masivas y deportaciones de la ciudad contra opositores al régimen y "enemigos del pueblo".

En 1928, Zinóviev había plegado sus posiciones en el Partido a las de Stalin, abandonando toda oposición, lo cual fue seguido por sus protegidos y subordinados como Smirnov, quien en octubre de 1929 proclamó también su "ruptura con Trotski".

Fue incluido en el grupo de acusados junto con Zinóviev y Lev Kámenev, por haber creado un presunto «Centro Terrorista Trotski-Zinóviev».