После установления дипломатических отношений с Японией первым советским военным и военно-морским атташе в Токио был назначен Карл Юрьевич Янель. В 1925 году резидентурой Янеля был завербован отставной капитан японского военно-морского флота, имевший возможность добывать сборники приказов по японским ВМС. В сентябре 1925 года одному из разведчиков резидентуры Янеля удалось завербовать сотрудника редакции газеты «Асахи» и крупного коммерсанта, который передавал научно-техническую информацию.
В 1931 году советским военным атташе в Японии был назначен Александр Иванович Кукк, активный участник Гражданской войны. В Японии А. И. Кукк работал до мая 1932 года.
С 1932 по 1937 год военным атташе в Японии был Иван Александрович Ринк.
В предвоенные годы специальные задания в Японии выполняли и другие военные разведчики. Среди них — Аркадий Борисович Асков, Георгий Александрович Абрамов и другие.
Сведения о Японии и ее вооруженных силах военная разведка добывала не только в Японии, но и на территории Китая и Кореи.
18 сентября 1931 года Япония начала военные действия против Маньчжурии. Учитывая сложную обстановку, которая складывалась вдоль советских дальневосточных границ, начальник Разведывательного управления Ян Берзин принял решение заблаговременно укрепить позиции советской военной разведки на Дальнем Востоке. С этой целью был разработан план внедрения разведчика-нелегала Рихарда Зорге в Японию, что вскоре и было сделано. Резидентуру советской военной разведки в Шанхае, которой руководил Зорге, было поручено возглавить Якову Григорьевичу Бронину (псевдоним Абрам).
Разведкой Японии с территории Китая успешно занимался и Лев Александрович Борович, который был в 1936–1937 годах резидентом советской военной разведки в Шанхае. Значительных успехов в добывании сведений о японских войсках на территории Китая добился и военный разведчик Залман Литвин.
Резиденты военной разведки сообщали в Центр о целях, которые преследовала Япония, подписывая 25 ноября 1936 года с Германией, где уже установилась фашистская диктатура, так называемый «Антикоминтерновский пакт». Знали в Москве и о целях подписания в 1940 году в Берлине Пакта трех держав, подписи под которым поставили Риббентроп, Чиано и Курусу. В Берлинском пакте указывалось, что Германия и Италия «признают и уважают руководство Японии в создании нового порядка в великом восточноазиатском пространстве». Пакт трех держав 1940 года был направлен против СССР. Об этом и докладывали в Центр Р. Зорге, Л. Борович и другие разведчики.
В целом, в 1930–1940 годах разведкой Японии занимались резидентуры РУ штаба РККА, действовавшие в Шанхае, Харбине, Дайрене, Чунцине, Токио, Нагасаки и в некоторых других японских, китайских и маньчжурских городах.