Кроме того, в условиях перехода к новой экономической политике материальное положение сотрудников ОГПУ резко ухудшилось. Из органов и войск ОГПУ начался массовый уход, основной причиной которого стала скудная зарплата и ее несвоевременная выплата. Катастрофическую ситуацию описывал председатель ГПУ Украины Манцев: денежное довольствие и продпаек мизерны, чекисты живут за счет продажи на рынке своих вещей, находятся «в состоянии перманентного голода. На этой почве происходит общее понижение работоспособности, настроение сотрудников озлобленное, дисциплина падает… зарегистрирован ряд случаев самоубийств на почве голода и крайнего истощения». Манцев утверждал, что лично получает письма сотрудниц, которые сообщают, что вынуждены заниматься проституцией, чтобы не умереть с голоду, арестованы «за грабежи и налеты десятки, если не сотни сотрудников, и во всех случаях установлено, что идут на разбой из-за систематической голодовки. Бегство из чека повальное…».
Дзержинский, в силу своих возможностей, пытался исправить ситуацию. Манцев ставил вопрос ребром: «Если чека не нужна, то об этом надо сказать прямо и твердо. И мы соответствующим образом будем тогда поступать». На этот вопрос нужно было найти ответ, и Ягода, «хороший организатор и хозяйственник», был незаменим в этой роли. Сам Ягода получил возможность выступить в роли «защитника чекистов и благодетеля».
Кроме того, следует учитывать, что в троцкистской оппозиции принимали участие многие бывшие чекисты. Например, Иван Петрович Бакаев служил в ВЧК (сначала Петрограда, затем Юго-Востока) в 1919–1921 гг., Котэ Цинцадзе руководил Грузинской ЧК в 1921–1922 гг., Яков Абрамович Лившиц был председателем Киевской ЧК(1920–1921), а затем был заместителем председателя ГПУ УССР, начальником Секретно-оперативной части ГПУ УССР. Конечно, к 1927 г. они ушли из ОГПУ, но связи, видимо, оставались, и несмотря на принятые меры, влияние троцкистов в ОГПУ оставалось заметным. А.М.Плеханов справедливо считает, что написанная в 1927 году «Современная баллада» точно отражает настроение в органах:
Ненастное небо угрюмо,
Лежит на диване чекист,
Томят его черные думы…
Повсюду разруха, смятенье развал…
Что делать? Где выход желанный найти?
Остаться ли Сталина верным рабом?
Иль с Троцким устроить партийный погром?
Не позже 1927 года ОГПУ перешло к активным арестам троцкистов. Ягода, видимо, действительно был близок к правым (Рыкову, Бухарину, Томскому, Угланову), что было особенно заметно в конце 1920-х. Сам Ягода признает, что был близок к правым по «идейным мотивам», кроме того, он мог считать, что со временем правые победят. В 1928 — начале 1929 гг. он несколько раз встречался с лидерами правых на даче Томского.