Уже в первые месяцы «великой чистки» аппарат НКВД на местах был значительно расширен. Одновременно руководство страны позаботилось о том, чтобы улучшить материальное положение чекистов.
Следует, однако, отметить, что среди новобранцев НКВД «сталинской волны» было немало людей, которых буквально ошеломила обстановка беззакония и произвола, царившая в органах госбезопасности. Многие сотрудники НКВД, участвовавшие в «большой чистке», сами погибли в вакханалии «ежовщины». За 1934–1939 годы 21 тысяча 800 сотрудников Наркомата внутренних дел были репрессированы по обвинению в «контрреволюционных преступлениях», в том числе сотни разведчиков.
В августе 1938 года первым заместителем наркома внутренних дел и одновременно начальником Главного управления государственной безопасности, в состав которого входила и внешняя разведка, был назначен Лаврентий Берия, являвшийся первым секретарем Тбилисского горкома КП(б) Грузии, а до этого длительное время работавший в органах ВЧК — ГПУ Закавказья.
17 ноября 1938 года Политбюро ЦК ВКП(б) утвердило на своем заседании секретное постановление СНК и ЦК ВК(б) «Об арестах, прокурорском надзоре и ведении следствия», явившееся, по сути, предвестником конца «ежовщины». В документе, в частности, отмечалось:
«Массовые операции по разгрому и выкорчевыванию вражеских элементов, проведенные органами НКВД в 1937–1938 годах при упрощенном ведении следствия и суда, не могли не привести к ряду крупнейших недостатков и извращений в работе органов НКВД и прокуратуры.
Работники НКВД настолько отвыкли от кропотливой, систематической агентурно-осведомительской работы и так вошли во вкус упрощенного порядка производства дел, что до самого последнего времени возбуждают вопросы о предоставлении им так называемых лимитов для производства массовых арестов. Глубоко укоренился упрощенный порядок расследования, при котором следователь, как правило, ограничивается получением от обвиняемого признания своей вины и совершенно не заботится о подкреплении этого признания необходимыми документальными данными. Нередко показания арестованных записываются в виде заметок, а затем спустя продолжительное время составляется общий протокол, причем совершенно не выполняется требование о дословной, по возможности, фиксации показаний арестованного. Очень часто протокол допроса не составляется до тех пор, пока обвиняемый не признается в совершенных им преступлениях».
Постановлением от 17 ноября 1938 года органам НКВД и прокуратуре запрещалось проводить какие-либо массовые аресты и выселения, а сами аресты предписывалось осуществлять в соответствии с Конституцией страны только по постановлению суда или с санкции прокурора. В центре и на местах ликвидировались судебные «тройки». В то же время в документе подчеркивалось, что «очистка СССР от многочисленных шпионских, террористических, диверсионных и вредительских кадров должна продолжаться, но с использованием более совершенных и надежных методов».