В 1917 - 1936 годах высшими органами судебного управления были Народные комиссариаты юстиции союзных республик. Общесоюзного органа не было. Народный комиссариат юстиции СССР был образован по постановлению ЦИК и СНК СССР 20 июля 1936 года. Одновременно из системы Народных комиссариатов юстиции союзных республик были выделены в самостоятельную систему до этого находившееся в их ведении органы прокуратуры и следственный аппарат, переданные в систему прокуратуры СССР. Таким образом, были созданы две самостоятельные системы органов суда и прокуратуры. Народный комиссариат юстиции СССР должен был осуществлять наблюдение за применением судами положений о судоустройстве, уголовного, гражданского и процессуальных кодексов, руководить обобщением практики их применения и разрабатывать необходимые изменения и дополнения к указанным законам. На Наркомат юстиции возлагалось руководство в организации выборов судей и все организационно-хозяйственные вопросы судебных органов. В задачи Наркомата юстиции входило также осуществление общего руководства и надзора за работой нотариата, проведение работы по кодификации законодательства, дача юридических консультаций, ведение судебной статистики, руководство изданиями юрлитературы.
Постепенно полномочия органов юстиции менялось. В 1928 году функции надзора за законностью пришли к прокуратуре, а управление местами лишения свободы к органам внутренних дел.
Прокуратура учреждалась в целях неуклонного контроля за соблюдением законов (так называемый общий надзор) и в интересах правильной постановке борьбы с преступностью. Сочетание в деятельности Советской прокуратуры двух функций составляло одно из принципиальных отличий ее от дореволюционной Российской прокуратуры. Одной из основных задач нового органа наряду с установлением теснейшего контакта с политическими и профсоюзными организациями пролетариата, стало и такое повседневное направление работы «чтобы каждый трудящийся страны знал и понимал, что именно в лице прокурора он всегда имеет своего первого и самого близкого защитника и хранителя его интересов».
Когда в ноябре 1922 года ВЦИК принял положение о судоустройстве, в нем говорилось и о прокуратуре, как об органе, который помимо надзора за общим соблюдением законов непосредственно наблюдает за производством предварительного следствия и дознания, поддерживает государственное обвинение в суде.
В 1923 году в Положение была включена глава «О государственной прокуратуре», воспроизводившая в основном Закон 3922 года о прокурорском надзоре.
Центральная прокуратура РСФСР входила в качестве отдела в состав Народный комиссариат юстиции. Прокурором был народный комиссар, фактически же руководил работой прокуратуры заместитель народного комиссара, старший помощник прокурора Республики. В непосредственном подчинении прокурора Республики находились прокурор Верховного трибунала и губернские прокуроры, которые назначались, перемещались и увольнялись прокурором Республики. Помощники губернских прокуроров в уездах также назначались и увольнялись прокурором Республики по предоставлению губернского прокурора. Прокуроры при военных и военно-транспортных трибуналах подчинялись непосредственно помощнику прокурора Республики при Верховном трибунале.
Для надзора за соблюдением законодательства о труде, в особенности представителями частного капитала, при Верховном суде учреждалась особая прокуратура по трудовым делам. На прокуратуру возлагалась:
- наблюдение за законностью действий всех органов власти, государственных и общественных учреждений и частных лиц;
- возбуждение уголовного преследования, наблюдение за деятельностью следственных органов;
- поддерживание обвинения в суде, опротестование приговоров и решений судов;
- наблюдением за соблюдением законности содержания под стражей, исполнения приговоров и состояния мест лишения свободы;
- охрана интересов государства и трудящихся по гражданским делам.
Прокурор Республики мог опротестовать постановление и решение любого органа в СНК или ЦИК, местные прокуроры с представлениями об отмене незаконных актов местных органов, могли входить в соответствующие исполкомы. За 1924 год органы прокуратуры РСФСР внесли в местные исполкомы 17,4 тысяч протестов и представлений, а в 1925 28,5 тысяч.
Внимание прокуратуры направлялось, прежде всего, на те участки, которые приобрели в тот или иной период, в связи особыми обстоятельствами, особое значение. Так по циркуляру Народного комиссариата юстиции РСФСР на 1932 год видно, что прокуратура должна была улучшить надзор за охраной производства и труда, соблюдение законов о льготах
военнослужащим и их семьям, за работой финансовых органов. Для обеспечения возможности выполнить эту функцию прокуратура имела право требовать предоставления необходимых сведений и материалов и присутствовать на заседаниях местных исполнительных комитетов. В положении о Верховном суде СССР принятого 23 ноября 1923 года предусматривалось образование Прокуратуры Верховного суда СССР. Она имела право предлагать на рассмотрение Президиума ЦИК и Верховного суда СССР вопросов, опротестовывать решения Верховного суда и его коллегий, в порядке судебного надзора опротестовывать постановления и приговоры Верховных судов союзных республик, а также осуществлять надзор за законностью действий органов ОПТУ. Управление военной прокуратурой возлагалось на помощника прокурора, прокуратуры Верховного суда СССР и Военной коллегии. Согласно положения о высшем трибунале и военной прокуратуре от 1926 года военная прокуратура осуществляла общий надзор за законностью действий всех должностных лиц и учреждений РККА, опротестовывала акты, нарушавшие законы, возбуждали уголовное преследование и осуществляли надзор по делам военных трибуналов, наблюдали за следствием, за особыми отделами ОПТУ.
В связи с организацией в 1930 году железнодорожных линейных судов и в 1934 году воднотранспортных судов были учреждены и соответствующие транспортные прокуратуры.
20 июня 1933 года ЦИК и СНК СССР в целях укрепления социалистической законности и улучшения охраны общественной собственности от покушений противообщественных элементов учреждена прокуратура СССР. Прокуратура Верховного суда упразднялась.
После образования Прокуратуры СССР, прокуратуры союзных республик, ранее подчинявшиеся Народным комиссариатам юстиции республики, были подчинены прокуратуре СССР в порядке выполнения ими функций общего руководства деятельностью республиканской прокуратуры. Конституция 1936 года закрепила стройную систему прокурорского надзора. Впервые были четко сформулированы положения о том, что высший надзор за точным исполнением законов всеми ведомствами, отдельными должностными лицами, гражданами СССР возлагались на прокуратуру СССР.
Генеральный прокурор СССР назначался Верховным Советом СССР сроком на семь лет. Республиканские, краевые, областные прокуроры, а также прокуроры автономных республик назначались Прокурором СССР сроком на пять лет. Окружные, районные и городские прокуроры назначались прокурорами союзных республик с утверждением Прокурором СССР сроком на пять лет.
В 1937 году в соответствии с законом провозглашался принцип осуществления правосудия только судом, в действительности пока еще не было полной реализации этого признака. Сохранялась внесудебная репрессия, применялись применение выполнение судебных функции особым совещанием НКВД, а на местах - тройки.
Обеспечение интересов гражданина, выступающего в суде в качестве обвиняемого или потерпевшего в уголовном процессе, ответчика или истца в гражданском процессе, предусматривалось уже в первых декретах о суде. Но организационные формы защиты в первые годы деятельности Советского Союза несколько раз изменялось. К третей сессии ВНИК девятого созыва НКЮ РСФСР подготовил проект закона об адвокатуре, в котором указывалось, что в качестве защитников судебные органы могут привлекать всех граждан, способных выполнять эту обязанность. Согласно закону коллегии защитников создавались при губернских отделах юстиции. Состав коллегии утверждался губисполкомом по представлению органов юстиции. Законом не допускалось занятие членом коллегии должности в государственном учреждении или предприятии. Коллегией защитников управлял президиум, избираем общим собранием ее членов. В 1929 году, когда на местах стали проявляться упрощенные тенденции в области судопроизводства, высказывались мысли о ликвидации института защиты в Советском суде. Однако это предложение не нашло поддержки в Наркомате юстиции.
После октябрьской революции фактически прекратили свое существование старые, частные нотариальные конторы. Нотариальные функции стали осуществляться сначала местными Советами, а затем нотариальными столами при губернских отделах юстиции и народных судах. Если в годы гражданской войны объем нотариальных действий был крайне незначительным, то с переходом к НЭПу в связи увеличением гражданского оборота возникла необходимость установить строгий государственный контроль за законностью совершения сделок. В 1922 году с принятием положения о государственном нотариате был установлен порядок организации нотариальных контор, определен круг совершаемых нотариальных действий. После принятия 14 мая 1926 ЦИК и СНК общесоюзного акта - постановления «Об основных принципах организации государственного нотариата» создание этого самостоятельного государственного органа было полностью завершено.
По Положению о Наркомате юстиции СССР, утвержденному Постановлением ЦИК и СНК СССР от 8 декабря 1936 г., он наделялся чрезмерно широкими полномочиями в отношении судов. В частности, мог давать им общие указания в целях обеспечения правильности и единообразия судебной практики, руководил выборами судей, ревизовал и инструктировал судебные учреждения.