El Ministerio era dirigido por el ministro de Justicia, quien era nominado por el presidente del Consejo de Ministros y confirmado por el del Sóviet Supremo.
El ministro era miembro del Consejo de Ministros y estaba encargado de los tribunales las prisiones y la libertad condicional.
Los funcionarios en el nivel de toda la Unión fueron divididos en organizaciones separadas en el nivel republicano, de óblast autónomo y provincial.
Según un decreto de 1972, el Ministerio de Justicia elaboraba las propuestas para la codificación jurídica y llevaba a cabo la gestión metodológica del trabajo legal en la economía nacional.
El principal objetivo del Ministerio era fortalecer el derecho socialista y el imperio de la ley al interior de las instituciones judiciales soviéticas.