После подписания Договора об образовании Союза ССР возникла необходимость создания общесоюзной системы правоохранительных органов. Постановлением ЦИК СССР от 6 июля 1923 г. «О Верховном Суде Союза ССР» Президиуму ЦИК СССР в связи с принятием Конституции СССР было поручено разработать Положение о Верховном Суде Союза Советских Социалистических Республик, которое было утверждено 23 ноября 1923 г., и в нем были определены функции, правомочия, структура и штаты Прокуратуры Верховного Суда Союза ССР. В составе Верховного Суда СССР учреждался пост Прокурора Верховного Суда СССР. Прокурор Верховного Суда СССР и его заместитель в соответствии со ст. 46 Конституции СССР 1924 г. назначались Президиумом ЦИК Союза ССР и были подотчетны Президиуму. Прокурор Верховного Суда давал заключения по всем вопросам, решаемым этим судом, поддерживал обвинение и имел право опротестовывать решения Верховного Суда в Президиум ЦИК СССР. Прокурор предлагал на рассмотрение Президиума ЦИК и Верховного Суда СССР вопросы, отнесенные к компетенции последнего, опротестовывал решения Верховного Суда СССР, истребовал решения и приговоры верховных судов союзных республик, проверял их в порядке надзора и передавал на рассмотрение Верховного Суда СССР.
В Основах судоустройства Союза ССР и союзных республик, принятых 29 октября 1924 г., была определена компетенция прокуроров союзных и автономных республик. Здесь воспроизводилось Положение о прокурорском надзоре 1922 г. (общий надзор, надзор за следствием, поддержание обвинения в судах, надзор за местами лишения свободы) с добавлением, что прокуратура ограждает интересы трудящихся по гражданским делам.
Постепенно расширялась компетенция прокурора Верховного Суда СССР, который получил право: наблюдать за законностью постановлений наркоматов и иных центральных учреждений СССР (кроме ЦИК и СНК СССР) с внесением представлений по поводу выявленных нарушений в Пленум Верховного Суда СССР; наблюдать за законностью постановлений ЦИК союзных республик; надзирать за законностью судебных решений.
Положением о судоустройстве РСФСР 1926 г. на органы прокуратуры были возложены две дополнительные функции:
участие в гражданском процессе в целях ограждения интересов государства и трудящихся, расширившее функцию судебного контроля;
общее наблюдение и согласование деятельности всех органов, ведущих борьбу с преступностью, позже получившее наименование координационной функции.
Положение о Народном комиссариате юстиции, принятое 3 июня 1929 г., установило, что в состав этого учреждения входят Верховный Суд РСФСР и Управление прокуратуры Республики. К ведению последнего было отнесено: руководство нижестоящими прокуратурами; надзор за законностью и опротестование действий центральных органов власти, хозяйственных органов, общественных организаций, исполкомов и других учреждений (общий надзор); руководство деятельностью органов расследования; организация совещаний по борьбе с преступностью и общее руководство их деятельностью; участие в заседаниях коллегий Верховного Суда РСФСР и дача заключений; истребование судебных дел в порядке надзора и некоторые другие.
Решающий шаг в сторону полного организационного отделения прокуратуры от Верховного Суда и НКЮ был сделан в связи с принятием Положения о Прокуратуре Союза Советских Социалистических Республик, утвержденного Постановлением ЦИК и СНК СССР от 17 декабря 1933 г.
На Прокуратуру Союза ССР возлагались:
надзор за соответствием Конституциям и Постановлениям Правительства Союза ССР постановлений и распоряжений отдельных ведомств Союза ССР и союзных республик и местных органов власти;
наблюдение за правильным и единообразным применением законов судебными учреждениями союзных республик с правом истребования любого дела в любой стадии производства, опротестования приговоров и решений судов в вышестоящие судебные инстанции и приостановления их исполнения;
возбуждение уголовного преследования и поддержание обвинения во всех судебных инстанциях на территории Союза ССР;
надзор на основе особого положения за законностью и правильностью действий ОГПУ, милиции, уголовного розыска, деятельности исполнительно-трудовых учреждений;
общее руководство деятельностью органов прокуратуры союзных республик.
Таким образом, несмотря на то, что в союзных республиках прокуратуры еще три года оставались в системе НКЮ, все прокурорские органы оказались объединены под единым оперативным руководством. Прокуратуру Верховного Суда Союза ССР упразднили.
Централизованная и независимая прокурорская система СССР окончательно сложилась к середине 30-х годов, когда 20 июля 1936 г. было принято постановление ЦИК и СНК СССР «Об образовании Народного Комиссариата юстиции Союза ССР». Такая централизованная система прокуратуры была закреплена и в «сталинской» Конституции 1936 г. На прокуратуру возлагался высший надзор за точным исполнением законов всеми Народными комиссариатами, подведомственными им учреждениями, должностными лицами и гражданами.
В условиях культа личности Сталина имело место падение авторитета прокуратуры. В эти годы вопреки конституционным установлениям были допущены грубейшие нарушения принципов законности, прав человека, массовые и незаконные репрессии. В связи с этим для представителей прокурорского надзора были созданы неприемлемые условия надзора за расследованием многих дел этой категории, их расследование осуществлялось органами государственной безопасности: прокурорский надзор был лишен своих правоохранительных функций, особенно при расследовании уголовных дел о наиболее тяжких так называемых контрреволюционных преступлениях, лишен власти в пресечении незаконных репрессий.
В годы сталинских репрессий прокуроры входили в состав квазисудебных органов, так называемых троек, рассматривавших дела «врагов народа». 5 ноября 1934 г. было принято Постановление ЦИК и СНК СССР «Об Особом совещании при Народном комиссариате внутренних дел СССР», в соответствии с которым народному комиссариату предоставлялось право применять определенные меры к лицам, признаваемым общественно опасными. Предусматривалось, что в заседаниях Особого совещания должен обязательно участвовать Прокурор Союза ССР или его заместитель, который в случае несогласия как с самим решением Особого совещания, так и с направлением дела на рассмотрение Особого совещания имеет право протеста в Президиум ЦИК СССР. Таким образом, в деятельности прокуратуры был допущен резкий крен в сторону уголовного преследования и обвинения. Все другие направления деятельности прокуратуры оказались ослабленными. Этому способствовала и проведенная на основании приказа прокурора Союза ССР от 25 марта 1934 г. «О перестройке аппарата прокуратуры в центре и на местах», перестройка аппарата прокуратуры с отказом от деления его по специальным отраслям прокурорского надзора. Этим приказом были ликвидированы разделение в структуре органов прокуратуры на общий и судебный надзор, а также специально выделенное для рассмотрения жалоб и заявлений отдельных лиц существующее в органах прокуратуры Бюро жалоб.
В годы Великой Отечественной войны деятельность прокуратуры была подчинена общей задаче – победе над немецким фашизмом. Многие прокуроры и следователи ушли на фронт в действующую армию или в партизанские отряды. Высококвалифицированные прокуроры и следователи СССР принимали активное участие в судебном процессе над нацистскими преступниками, проходившем в Нюрнберге с ноября 1945 г. по октябрь 1946 г.
В послевоенное время усилия органов прокуратуры были направлены на укрепление законности в сфере экономики. На первый план выдвигались задачи по обеспечению сохранности имущества, соблюдению режима экономии средств и ресурсов. Стало значительно больше уделяться внимания надзору за соблюдением и восстановлением прав граждан. Так, уже 17 июля 1946 г. в приказе Генерального прокурора СССР от 17 июня 1946 г. № 128 «Об усилении общего надзора за точным исполнением законов» были сформулированы задачи прокуроров в сфере общего надзора, определены полномочия прокуроров по устранению нарушений закона, обозначены основные средства прокурорского реагирования на установленные нарушения закона. Одновременно с общим надзором совершенствовались и другие отрасли надзора, а также производство расследования совершенных преступлений.
В целях повышения престижа и авторитета органов прокуратуры в решении задач государственного и хозяйственного строительства Верховный Совет СССР 19 марта 1946 г. принял закон о присвоении прокурору СССР наименования: Генеральный прокурор СССР.
Положение о прокурорском надзоре в СССР от 24 мая 1956 г., принятое в условиях преодоления культа личности и восстановления демократических форм правления, определило основные направления деятельности прокуратуры, в частности, сохранило общий надзор, надзор за законностью при производстве предварительного расследования, а также надзор за законностью судебных решений, исполнения приговоров, содержания арестованных в местах лишения свободы. Таким образом, это Положение впервые четко конкретизировало основные функции высшего надзора по всем его отраслям.