Контрразведывательной работой вне пределов Петербурга продолжали заниматься органы политической полиции МВД, а также созданные в 1906 г. разведывательные отделения штабов военных округов. Ее масштаб и результативность во многом зависели от инициативы конкретных должностных лиц. Известно, например, что много сделал для разоблачения австрийских и германских шпионов, действовавших на территории Царства Польского, начальник разведывательного отделения штаба Варшавского военного округа полковник Н. С. Батюшин. В результате проведенной под его руководством работы были скомпрометированы активные разведчики вице-консул Австро-Венгрии в Варшаве Юлиус Пинтер и австрийский поручик фон Урсин, выявлен и арестован ряд австрийских агентов.
Нерешенность проблемы борьбы с иностранным шпионажем и связанные с этим негативные последствия наглядно проявились в годы русско-японской войны 1904–1905 гг.
С началом войны японцы приступили к массовой вербовке агентуры из числа местного китайского населения, а через некоторое время создали специальные школы для подготовки агентов-разведчиков. Под видом мелких торговцев, прислуги, нищих они проникали в тыл российской армии и стремились осесть в районе расположения воинских частей и соединений, на железнодорожных станциях и т. п. Благодаря хорошо поставленной разведывательной работе, в ходе всей войны противник был осведомлен о дислокации, численности, вооружении и перемещениях российских войск.
Борьбой с японским шпионажем на театре военных действий занимались разведывательные отделения штабов русских армий и некоторые другие учреждения. Для выявления вражеских шпионов они пытались использовать агентуру, гласные заградительные мероприятия. В тылу русских войск была сформирована, к примеру, специальная жандармская команда численностью 50 (позднее — 100) человек, которая контролировала соблюдение режимных мер в прифронтовой полосе.
В ходе войны все дела по японскому шпионажу против Действующей армии, а также учет подозрительных лиц были сосредоточены у генерал-квартирмейстера при Главнокомандующем русскими войсками военного следователя полковника Огиевского, прикомандированного к управлению. К моменту заключения мирного договора с Японией им было рассмотрено 8 дел о шпионаже, по которым проходило 25 обвиняемых. Из них 16 человек были осуждены или казнены, а 9 человек оправданы.
Несмотря на уроки русско-японской войны, и в последующие годы продолжала иметь место практика привлечения к борьбе с иностранным шпионажем жандармских учреждений, а не создание сети специальных органов военного ведомства. Лишь в июне 1911 г. были образованы контрразведывательные отделения в штабах всех военных округов и тогда борьба с иностранным шпионажем в России приобрела новое качество. Однако, говорить о системе органов противодействия иностранным спецслужбам не приходится. Каждый штаб действовал самостоятельно, не учитывая общие положения и ту информацию о противнике, которая сосредотачивалась в Генеральном штабе.