El GUGB fue suprimido como organización dentro del NKVD de la URSS.
Tras el estallido de la Segunda Guerra Mundial, el NKVD y el NKGB se fusionaron, pero no como GUGB sino como directorios totalmente separados.
Entre 1934 y 1941, el Directorio Principal de la Seguridad del Estado pasó por varios cambios organizativos.
Aunque las insignias introducidas en 1937 siguieron los patrones de parche de cuello del Ejército Rojo, se las asignó a rangos muy diferentes para el GUGB y las ramas de tropas internas, políticas o especializadas, con el rango del GUGB colocado al menos un grado más alto que su similar equivalente en el ejército.
Los departamentos (o secciones) del GUGB se ocuparon de la inteligencia, seguridad interna, contrainteligencia, protección del gobierno y comunicaciones secretas.