Борьбой со шпионажем занимались и созданные в Красной Армии и Военно-Морском Флоте органы военного контроля.
Накопленный к осени 1918 года опыт показывал, что невозможно отделить шпионаж империалистических разведок от подрывной деятельности внутренней контрреволюции, поскольку они явно смыкались между собой. К этому времени стало очевидно, что существование нескольких органов, боровшихся с контрреволюцией и шпионажем в армии и на флоте, вело к распылению сил, порождало ненужные межведомственные трения. Необходимо было сосредоточить функции борьбы со шпионажем и контрреволюцией в одном органе, который отвечал бы за состояние контрразведывательной работы в Вооруженных силах республики.
19 декабря 1918 года Бюро ЦК РКП(б) с участием В. И. Ленина приняло решение о слиянии фронтовых чрезвычайных комиссий и аппаратов Военного контроля Реввоенсовета. Созданный единый орган – Особый отдел Республики – возглавил профессиональный революционер, организатор боевых дружин, соратник Ф. Э. Дзержинского М. С. Кедров.
Этот день – 19 декабря 1918 года – считается днем рождения органов военной контрразведки. В феврале 1919 года ВЦИК утвердил положение «Об особых отделах Всероссийской чрезвычайной комиссии», на которые возлагались задачи по ограждению Красной Армии от происков контрреволюции, борьбе со шпионажем и преступлениями по должности. Так завершился сложный процесс определения роли и места военной контрразведки в системе государства.
В начальный, самый тяжелый период войны контрразведка не располагала достаточными материалами о разведывательных органах, спецшколах, формах и методах подрывной деятельности противника. Оперативный состав не имел опыта подготовки и проведения зафронтовых контрразведывательных мероприятий. Недооценивалась перевербовка вражеских агентов. В условиях тяжелых оборонительных боев было не до этого.
Контрразведчики постепенно накапливали опыт борьбы с вражескими спецслужбами. В качестве зафронтовой агентуры допускалось использование разоблаченных немецких разведчиков, в первую очередь явившихся с повинной.
С образованием в апреле 1943 года ГУКР СМЕРШ НКО СССР улучшилось качество зафронтовой контрразведывательной работы. Так, например, с апреля 1943 года по февраль 1944 года в органы и школы абвера и СД внедрились 75 советских разведчиков, причем 38 из них за указанный период возвратились. Пришедшие в разное время из тыла противника зафронтовые агенты представили сведения на 359 специальных сотрудников германской военной разведки и на 978 выявленных шпионов и диверсантов, подготовляемых для переброски в расположение частей Красной Армии. Впоследствии 176 вражеских лазутчиков были арестованы органами СМЕРШ. Благодаря усилиям контрразведчиков 85 немецких агентов после заброски их на сторону частей Красной Армии явились с повинной. Пятеро завербованных сотрудников германской разведки остались работать в своих подразделениях по заданию СМЕРШа.