После завершения войны с Японией в течение нескольких лет положение не менялось. Только в декабре 1908 г. была образована межведомственная комиссия из представителей Военного министерства и МВД под председательством директора Департамента полиции М. И. Трусевича, которой поручили разработку мер по борьбе с иностранным шпионажем. В ходе ее заседаний были рассмотрены материалы, характеризовавшие масштабы иностранного шпионажа против России, а также формы и методы работы иностранных разведок. Комиссия впервые выработала определение контрразведки как вида деятельности. По ее мнению, «контрразведка (борьба со шпионством) заключается в своевременном обнаружении лиц, занимающихся разведкой для иностранных государств, и в принятии вообще мер для воспрепятствования разведывательной работе этих государств в России. Конечная цель контрразведки есть привлечение к судебной ответственности уличенных в военном шпионаже лиц на основании статей 108–119 Уголовного Уложения 1903 г. или прекращение вредной Деятельности названных лиц хотя бы административными мерами».
Комиссия разработала четыре проекта организации контрразведывательных органов. Дискуссии в основном шли о том, в состав какого ведомства — МВД или Военного министерства — включать создаваемые специальные подразделения по борьбе со шпионажем, а также по вопросу о комплектовании их кадрами.
В конечном итоге комиссия пришла к выводу, что шпионаж направлен преимущественно против вооруженных сил, а Департамент полиции МВД не обладает специальными знаниями об организации русской и иностранных армий. Следовательно, необходимо создать контрразведывательные отделения именно в рамках Военного министерства. При этом предусматривалось, что Департамент полиции будет оказывать всяческое содействие контрразведке, а руководить контрразведывательными органами будут прикомандированные из Отдельного корпуса жандармов опытные офицеры-розыскники.
8 июня 1911 г. военным министром В. А. Сухомлиновым были утверждены «Положение о контрразведывательных отделениях» и «Инструкция начальникам контрразведывательных отделений».
В соответствии с вышеуказанными правовыми актами к концу 1911 г. были созданы и функционировали контрразведывательные отделения (КРО) в Варшавском, Виленском, Иркутском, Кавказском, Киевском, Московском, Одесском, Петербургском, Приамурском и Туркестанском военных округах. При этом КРО штаба Московского военного округа обслуживало в оперативном плане дополнительно территорию Казанского военного округа, а КРО штаба Иркутского военного округа — соответственно Омский военный округ.