Террор, проводимый органами ВЧК, особенно на периферии, достиг таких размеров, что это вынудило ВЦИК летом 1919 года издать специальный декрет, в котором указывался точный перечень преступлений, могущих быть рассматриваемыми органами ВЧК во внесудебном порядке. По этому декрету ВЧК могла разбирать, кроме контрреволюционных дел, дела о бандитизме, вооруженном разбое и крупных хищениях. Уголовно-процессуальный порядок, применявшийся в органах ВЧК, был известен в уголовном праве под названием следственного, розыскного или инквизиционного процесса. Этот процесс, как известно, применялся в Средние века. При этом процессе производство расследования облекалось глубокой тайной и велось в отсутствии посторонних лиц; никаких сторон в процессе не было, а дело начиналось по доносам и по слухам, сам же обвиняемый являлся на судебном процессе лишь объектом исследования; собранный материал фиксировался в письменной форме и на основании этого же материала, без всякой его проверки, выносился приговор. Ленин, как юрист, вспомнил про него, извлек его из глубин истории и вооружил этим старым испытанным оружием средневекового деспотизма свое детище -- ВЧК.
Отделы ВЧК были организованы во всех губернских городах. Одновременно в Красной армии были организованы Особые отделы ВЧК, в обязанности которых входила борьба со шпионажем. Производство дел в Особых отделах ВЧК было еще больше упрощено, чем в самой ВЧК: иногда весь материал дознания состоял из одного протокола, служившего в то же время и постановлением о применении репрессии; наблюдались случаи, когда протокол-постановление оформлялся уже после состоявшегося расстрела. Техника производства дознания была проста. Следователь Особого отдела ВЧК производил дознание по делу, он же в составленном им постановлении указывал рекомендуемую им санкцию; это постановление без промедления утверждалось начальником Особого отдела. Содержание материалов расследования оставалось неизвестным для привлекаемого к ответственности, а о мере наказания, определенной Особым отделом, он узнавал лишь в момент приведения приговора в исполнение. (Точно такими же методами действовали Особые отделы Советской армии в войну 1941 -- 1945 гг.).
С установлением новой экономической политики, в соответствии с решениями IX съезда Советов от 6 февраля 1922 г., ВЧК была реорганизована в Особое Государственное Политическое Управление -- ОГПУ. В составе ОГПУ были созданы "Судебные коллегии ОГПУ", а в областных центрах "Особые тройки ОГПУ". Разница между ОГПУ и ВЧК заключалась только в том, что ВЧК уничтожала свои жертвы без всякого оформления, а ОГПУ должно было оформлять этот же акт путем передачи в Судебную коллегию ОГПУ, конечно, ничего общего с судом не имеющую. В этих судебных коллегиях ОГПУ дело слушалось без вызова обвиняемого и без вызова свидетелей на заседания, т. е. по правилам, применявшимся ранее в ВЧК. Основным отличительным признаком ОГПУ от ВЧК было то, что ОГПУ не рассматривало уголовных преступлений, дела о которых передавались в суды, но и это правило иногда нарушалось. Все контрреволюционные дела попрежнему входили в компетенцию ОГПУ. Размеры террора во время нэпа были несколько смягчены и сокращены, но это было временным явлением: начиная с 1928 года, деятельность ОГПУ вновь приобретает широкие размеры.