Как уже говорилось, на февральско-мартовском Пленуме Ежов сообщил об аресте 107 человек, работавших в органах госбезопасности, но это был не весь «улов» нового наркома. В целом в списке «лиц, подлежащих суду Военной коллегии Верховного суда СССР», переданном им 27 февраля членам Политбюро, значилось 479 фамилий. Однако в их число не входили сотрудники высокого ранга. И только после пленума, 7 марта 1937 года в Белоруссии был арестован нарком внутренних дел республики Г. Молчанов, ранее являвшийся начальником Секретно-политического отдела НКВД.
Еще одним значимым событием стало то, что уже 11 февраля 1937 года в Харькове арестовали бывшего секретаря ЦИК Авеля Енукидзе, находившегося на должности начальника областного отдела УШОСДОР НКВД Украины. Уже на первом допросе он признался в организации заговора против Сталина, но и это признание не стало первопричиной, определившей последующие события. После выступления на Пленуме Ежов продолжил разработку следственных дел в отношении противников Советской власти. В изданной им директиве НКВД от 11 марта сообщалось «о вскрытии диверсионных групп в нефтяной промышленности». Нарком не стал откладывать в долгий ящик и меры по наведению порядка в местах заключения. В его приказе от 15 марта было предписано введение в политизоляторах и тюрьмах особого назначения, в которых содержались лица, арестованные за контрреволюционные преступления, режима, ужесточающего содержание заключенных.
Но более значимым в хронологии дальнейших событий стало то, что в числе сотрудников Наркомата внутренних дел 3 марта оказался под арестом некий А. Лурье. Он попал в Особый отдел ЧК еще в начале 20-х годов. Правда, вскоре за мошенничество его отстранили от должности. Однако он остался в системе НКВД и занял место директора спортобщества «Динамо». Выезжая в этом качестве за границу, через директора германской фирмы «Борзинг» Ульриха он совершал коммерческие сделки с бриллиантами. По-видимому, это было связано с приобретением иностранной валюты для оперативной работы, но предприимчивый «специалист» занимался и иной деятельностью и на этой почве попал в поле зрения нового наркома.
На допросах Лурье сознался в работе на германскую разведку, и в связи с его показаниями 22 марта был арестован заместитель начальника Оперативного отдела Волович, следовавший в личном вагоне поезда из Москвы в Сочи. Уже весной 1937 года началась чистка и в армии. На основании информации начальника Политуправления РККА Гамарника 29 марта Политбюро постановило: «Предложить Наркомату обороны уволить из рядов РККА всех лиц командно-начальствующего состава, исключенных из ВКП(б) по политическим мотивам».