Fue nombrado metropolitano de San Petersburgo (entonces conocida como Leningrado) y Stáraya Ládoga en 1961.
En 1971 sucedió a Alejo I como Patriarca de Moscú y toda Rusia.
Toda la vida eclesiástica de Pimen I se desarrolló bajo el régimen comunista y oficialmente ateísta de la ex Unión Soviética, con cuyas autoridades intentó mantener un delicado equilibrio, evitando una confrontación excesiva que pusiera en peligro a la Iglesia, y a la vez procurando lograr un cierto margen de libertad religiosa en un ambiente hostil.
Pimen fue miembro del Consejo Mundial de la Paz desde 1963.
A su muerte lo sucedió el Patriarca Alejo II (Rüdiger) de Moscú.