В 1920-е годы чрезвычайные и исключительные по методам работы действия ВЧК диктовались упорным сопротивлением свергнутых эксплуататорских классов. После революции, в годы Гражданской войны, применялся красный террор против врагов советской власти. Автор теории «военного социализма» Лев Троцкий давал обоснование необходимости проведения при диктатуре пролетариата террора как средства достижения результатов революции в «кратчайший срок, хотя и самыми суровыми методами, под страхом беспощадных расправ».
В 1921 году Ленин, отмечая на IX Всероссийском съезде Советов заслуги ВЧК перед революцией, ставил задачи сужения сферы и круга деятельности и полномочий этого учреждения, которое каждый раз отвечает на удары заговорщиков, и одновременно «усиления начал революционной законности».
Внутренняя обстановка в период мирного строительства существенно изменилась. Но сохранившийся страх, отсутствие общественного контроля повлекли за собой произвол, грубейшие нарушения законности и тяжкие преступления на почве злоупотребления властью одной, приравниваемой к божеству, личностью. Решениями Политбюро ЦК ВКП(б), принимаемыми суровыми законами и личными указаниями Сталина, был дан старт массовым «оперативным ударам» по считавшимся опасными для тоталитарного режима категориям населения. По некоторым данным, НКВД учитывало до 20 таких категорий, подпадавшие под них граждане становились потенциальными жертвами существующего строя. От всех правоохранительных органов требовалось главное — слепое и механическое исполнение карательных функций. Как мы увидим, аресты и расстрелы не миновали и самих сотрудников органов безопасности, они находились между молотом и наковальней, в трагическом положении между необходимостью исполнения служебного долга и ответственностью за тяжкие преступления. Как тут не вспомнить «соблюдение законности» при царском режиме, который большевики проклинали как сатраповский. Есть свидетельства историков, что при создании «черного кабинета» глава жандармского корпуса граф Бенкендорф просил у царя Николая I установки, как ему действовать. Царь показал Бенкендорфу чистый носовой платок с вышитыми на нем словами: «Утирай слезы слабых и обездоленных». А Сталин превратил действующую государственную власть в единоличную диктатуру. Органы госбезопасности оказались в его руках личным орудием со всеми вытекающими тяжелыми последствиями.
В 1934 году ОГПУ как самостоятельный орган был ликвидирован и создан Народный комиссариат внутренних дел СССР. При наркомате образовано Главное управление государственной безопасности, которым руководил лично нарком внутренних дел Генрих Ягода (Енох Ягуда).