Еще одним вопросом, требующим незамедлительного решения, была форма организации разведывательной работы за рубежом. Дело в том, что советская военная разведка началась с нелегальной работы. В годы гражданской войны в тыл противника в массовом порядке перебрасывались подготовленные нелегальные резиденты и агенты, а после ее окончания разведывательно-диверсионную работу заменила нелегальная отправка за рубеж отдельных резидентов-организаторов для создания агентурных сетей. Однако, как уже говорилось, для полнокровной работы не хватало ни средств, ни опыта, ни кадров. Поэтому не стоит удивляться тому, что после прорыва дипломатической блокады Советской республики руководство Разведупра с радостью ухватилось за возможность организовать легальные зарубежные резидентуры. Так, уже в 1920 г. Центр направил первых резидентов в качестве сотрудников официальных советских учреждений в Германию, а затем в Прибалтику. А к середине 1920-х гг. в подавляющем большинстве стран, где работали советские разведчики, они действовали легально. При этом нелегальная работа отошла на второй план, хотя уже в начале 1920-х годов за рубеж отправили несколько нелегальных резидентов, в частности во Францию и на Балканы, причем нелегальная резидентура в Париже была сохранена и после создания там в 1924 г. легальной резидентуры.
Тогда же все более существенную роль в разведывательной работе Разведупра стали играть аппараты военных атташе. Так, к 1926 г. аппараты военного (ВАТ) и военно-морского (ВМАТ) атташе учредили в 12 странах: Финляндии, Швеции, Прибалтике (один аппарат ВАТ на Латвию, Литву и Эстонию), Польше, Германии, Италии, Англии, Турции, Иране, Афганистане, Китае и Японии. В задачи атташе входила всесторонняя оценка вооруженных сил страны пребывания, их мобилизационной и боевой готовности, оперативной и боевой подготовки личного состава, военной политики правительств и командования этих государств, а также сопредельных с ними стран.[112]
Но более-менее успешно легальные резидентуры действовали лишь до 1923 г., пока спецслужбы стран пребывания (особенно французская «Сюрте Женераль» и польская «Дефензива») не изучила методов работы советских разведчиков и не взяла советские представительства под особый контроль. Начиная с этого момента работа легальных резидентур становилась все более трудной. Положение усугубляло и чрезмерное усердие некоторых резидентов. Стремясь как можно быстрее создать агентурную сеть, они часто включали в нее непроверенных людей. Такая практика отзывалась многочисленными провалами, которые давали повод обвинять советские дипломатические представительства в разведывательной и даже диверсионной деятельности, в подрывной пропаганде, из-за чего престижу советского государства наносился серьезный ущерб.