Además sucedió por un tiempo corto a Lavrenti Beria en la jefatura del NKVD.

Posteriormente se unió al bando de Nikita Jrushchov contra Beria.

Su educación fue principalmente sobre política, asuntos internacionales e idiomas extranjeros.

[5]​ El informe del NKVD fue utilizado más tarde en 1944 como base por la "Comisión Estatal Extraordinaria para Determinar e Investigar Crímenes Perpetrados por los Invasores Fascistas Alemanes" (también conocida como la Comisión Burdenko), que llegó a las mismas conclusiones predeterminadas.

[7]​ En 1945, Kruglov fue ascendido al rango de Coronel General del NKVD.

En marzo de ese año, el NKVD fue reemplazado por el Ministerio de Asuntos Internos (MVD), y Kruglov continuó como ministro.

Beria se convirtió en primer vicepresidente, y retuvo el control nominal general sobre MVD y MGB, que, sin embargo, ahora estaban dirigidos por los adversarios de Beria.

Al principio, esta autoridad incluía el control general sobre la Milítsiya (la policía regular de la Unión Soviética), las Tropas Internas, el funcionamiento del sistema Gulag, las Tropas Fronterizas y otras áreas.

[10]​ Junto con Iván Serov, jugó un papel clave en la detención de Beria en junio de 1953, planificada por Nikita Jrushchov y Gueorgui Malenkov, y fue designado como su sucesor en el Ministerio de Asuntos Internos, comenzando a reformarlo.