El cementerio data de 1845, cuando se trasladó al antiguo convento Smolny.
Los primeros enterramientos se hicieron en 1849 y prosiguieron hasta la década de 1830.
Tras la Revolución de Octubre, las autoridades soviéticas demolieron la iglesia y muchas tumbas fueron destruidas, mientras que otras fueron trasladadas al cementerio de Tijvin.
En 1989, fue objeto de una importante obra de restauración, y en 2004 se nombró una comisión municipal para la conservación y rehabilitación del cementerio.
Entre los personajes célebres enterrados originariamente en el cementerio destacan los poetas Nikolái Nekrásov, Fiódor Tiútchev y Apolón Máikov, el pintor Mijaíl Vrúbel, el arquitecto Leontes Benois, el compositor Nikolái Rimski-Kórsakov, el médico Serguéi Botkin, el filólogo Yákov Grot, el publicista Adolf Marx, el jugador de ajedrez Mijaíl Chigorin, el político Viacheslav Plehve, el explorador Gennadi Nevelskói y los almirantes Nikolái Reitzenstein y Nikolái von Essen.