Члены политбюро довольно быстро осознали, что нужно разделить разведку и дипломатию и не компрометировать полпредов конспиративной деятельностью: «Безусловно запретить всякую нелегальную работу и деятельность как послам и ответственным лицам советских представительств за границей, так и курьерам и всяким другим служащим».
Взаимоотношения между дипломатами и разведчиками складывались трудно. Хотя поначалу дипломаты еще могли отстоять свои права с помощью партийного аппарата.
17 июля 1924 года политбюро приняло постановление:
«В дальнейшем назначение основных резидентов ГПУ в состав дипломатического корпуса производить по соглашению с секретарем ЦК».
Феликс Дзержинский — в отличие от своих наследников — старался ладить с дипломатами. 23 мая 1925 года он даже обратился в политбюро с неожиданным предложением включить в состав коллегии Наркоминдела его заместителя Менжинского:
«В связи с информацией, организованной ОГПУ по иностранным делам, а также с нашей борьбой со шпионажем и организуемой капиталистическими странами контрреволюцией был бы очень желателен в интересах дела и обороны страны более тесный контакт нашей работы с НКИДелом».
Но чем дальше, тем реже дипломаты побеждали в ведомственных конфликтах с разведкой и контрразведкой.
Нарком Чичерин писал в своем политическом завещании:
«Руководители ГПУ были тем невыносимы, что были неискренни, лукавили, вечно пытались соврать, надуть нас, нарушить обещания, скрыть факты…
ГПУ обращается с НКИД, как с классовым врагом… Внутренний надзор ГПУ в НКИД и полпредствах, шпионаж за мной, полпредами, сотрудниками поставлен самым нелепым и варварским образом…»
Еще в конце 1923 года секретная экзаменационно-проверочная комиссия ЦК провела массовую чистку наркомата иностранных дел, убирая всех «неблагонадежных». Комиссия рекомендовала ЦК ввести в штат загранучреждений сотрудников госбезопасности для «внутреннего наблюдения» за дипломатами и их семьями. Такая практика существует и по сей день.
Григорию Беседовскому, который в 1929 году оставил свой пост в советском полпредстве в Париже и попросил у французов политического убежища, Чичерин говорил:
— Меня тоже подслушивают. У меня делали здесь, в кабинете, ремонт и, несомненно, этим ремонтом воспользовались, чтобы установить микрофонный аппарат. Менжинский даже не считает нужным скрывать это обстоятельство. Он как-то сказал мне: «ОГПУ обязано знать все, что происходит в Советском Союзе. И мы достигли того, что наш аппарат прекрасно справляется с этой задачей».
Политбюро не один раз создавало комиссии для урегулирования отношений между чекистами и дипломатами.