Однако на практике заключение прокурора быстро превратилось в большинстве случаев «в пустую формальность, тягостную для прокуроров и ненужную для суда». Видный русский судебный деятель Г. Вербловский писал в 1905 г. : «В таком виде, в каком участие прокурора в гражданском процессе проявляется в действительности, оно совершенно бесполезно». Осознание этого факта было настолько сильно даже в правительственных кругах, что в 1910 году министерство юстиции внесло в государственную думу законопроект, предлагавший вообще отказаться от участия прокурора в гражданском процессе. Эта идея в думе полностью поддержана не была, однако законом от 9 мая 1911 года деятельность прокуратуры в гражданском процессе была значительно ограничена.
После революции составители первого советского ГПК основывались на известном высказывании В. И. Ленина о необходимости «продвинуться дальше в усилении вмешательства государства в „частноправовые отношения“, в гражданские дела», что применительно к процессу означало, что государство должно иметь максимум возможностей для вмешательства в гражданско-правовой спор. Под воздействием этих идей и сформировалась концепция участия прокуратуры в гражданском процессе. В соответствии со ст. 2 ГПК 1923 года «прокурор вправе как начать дело, так и вступить в дело в любой стадии процесса, если, по его мнению, этого требует охрана интересов государства или трудящихся масс». Через десять лет, чтобы обеспечить более четкое проведение судами «классовой линии» при рассмотрении дел, как уголовных, так и гражданских, суд был поставлен под надзор прокуратуры.
Таким образом, начиная с тридцатых годов, участие прокуратуры в гражданском процессе стало осуществляться во исполнение задачи по надзору за законностью рассмотрения гражданских дел в судах.
В конце 80-х — начале 90-х годов концепция прокурорского надзора стала подвергаться пересмотру. Руководящие судебные работники стали выступать против надзора прокуратуры за законностью рассмотрения дел судами. Указывалось, что первым шагом к построению демократического правового государства должно стать проведение концепции разделения властей, создание независимой судебной власти. Однако суд не может стать независимым, если он будет поднадзорен полуадминистративному органу, каковым является прокуратура. Сходные аргументы высказывались еще сто лет назад: «Долго под влиянием французских институтов функцией прокуратуры признавался надзор за соблюдением законности, преимущественно впрочем в судебном ведомстве, над которым прокуратура и ставилась в качестве блюстителя законности. Новейшая наука решительно отвергает это положение. Суд сам призван охранять закон и надзор за ним возможен лишь в иерархическом порядке судебных же инстанций». К сказанному трудно добавить что-либо в обоснование ненужности и вредности надзора прокуратуры за судом, который был введен в советское время с тем, чтобы усилить зависимость судей и суда от политической конъюнктуры, подчинить суд исполнительной власти.