Среди друзей Ежова не было ни одного сталиниста, все напротив были враги Сталина. Уже этих фактов было достаточно, чтобы усомниться в его лояльности, однако в какой-то момент Ежов по бытовым причинам поссорился с Пятаковым, а затем и Марьясиным, отдалившись от них. В начале 1933 года Конар был арестован за вредительство и шпионаж, получив высшую меру наказания. На его лучшем друге это все никак не сказалось. В том же году Ежов входит в комиссию по чистке партии от не порядочных людей, в 1934 году он был избран в ЦК ВКП (б), в организационное бюро, получил место заместителя комитета партконтроля. Все шло лучше некуда, он не забывал об отдыхе, регулярно уезжая заграницу, в буржуазные курорты.
В июле 1934 года Ежов приехал в Вену, в санаторий где любили отдыхать такие люди как В. Чубарь, Я. Гамарник, И. Якир и другие деятели. Пробыв там три недели Ежов попал в ловушку германской разведки, поздней ночью вступив в интимную связь с медсестрой. Во время приятного процесса его застукал доктор Энглер и поднял скандал, угрожая рассказать об этом широкой публике и сообщить в СССР. Для Ежова это могло бы обернуться понижением в должности. Все было разыграно и Ежов на следующий день попросил его не делать этого и тот в ответ потребовал от него работать в интересах Германии. Ежов попытался откупиться от него, но Энглер угрожал добавить ему обвинение в подкупе. Тогда Ежов согласился на предложение Энглера и подписал соответствующий документ.43
По замыслу Энглер сам должен был прибыть в СССР и стать связным Ежова, но СНК отклонил эту возможность, тогда их встречи происходили, когда Ежов отдыхал в Австрии, Бадгаштайне. Ежов два раза встречался с ним и рассказывал известную ему информацию о положении дел в СССР и прежде всего в Красной Армии. Затем Ежову дали связного, врача по фамилии Тайц, который под видом проверки здоровья или лечения мог приходить к нему в любое время. Ежов имел доступ к секретным военным материалам, с анализом положения дел в РККА, которые передавались доктору Тайцу его пациентом. 44
Следом была установлена связь с доктором Норденом, еще одним немецким шпионом, допущенным для работы в СССР, который давал медицинские заключения о необходимости его лечения за границей. Норден не говорил по-русски и его слова переводила супруга Евгения Ежова, которая была в курсе его предательской работы. Сам Ежов знал ее как шпиона Англии. Примерно в тот же период 1 февраля 1935 года Ежов был избран секретарем ЦК, став одним из высших руководителей ВКП (б).
В том же году он отправился в итальянский Мерано, потом он отправился в Париж, затем посетил Рим и приехал в Вену. Возвращаясь в СССР он на один день остановился в Варшаве. 45 В каждой поездке он мог легко вступать в контакты с представителями других иностранных правительств и разведслужб.