Абверу и спецслужбам РСХА противостояли особые отделы, территориальные и транспортные органы Наркомата внутренних дел СССР, войска по охране тыла действующей армии, истребительные батальоны и группы содействия им, позже органы и службы Наркомата госбезопасности, военная контрразведка, получившая звучное название СМЕРШ (смерть шпионам).
Деятельность спецслужб противоборствующих сторон в годы Великой Отечественной войны условно можно разделить на несколько периодов, каждому из которых были присущи свои особенности и характерные черты. Первый охватывает 1941 – весну 1942 гг., когда главные усилия Абвера и РСХА были сосредоточены на действующей Красной Армии, а основные надежды по проведению масштабной подрывной работы возлагались на массовую заброску агентуры. Во многих случаях задействовались и подразделения абверовского «домашнего войска», а в Прибалтике, Украине и других местах – националистические формирования. С их помощью немцы, надо признать часто небезуспешно, осуществляли войсковую разведку, совершали захват важных тактических и стратегических объектов, прежде всего мостов и переправ, проводили многочисленные диверсии и террористические акты. Эти и другие эпизоды ярко отражены в романе Ивана Стаднюка «Война» и снятом по его мотивам одноименном фильме. В этот же период советская сторона, нередко путем грубых промахов и ошибок, искала пути и возможности противостоять подрывным проискам противника, накапливала оперативный опыт, стремилась к организационному совершенствованию своих спецслужб.
Первое военное потрясение Третьего рейха осенью – зимой 1941 г. под Москвой, неуемное желание взять реванш за нанесенный «позор», планирование крупных наступательных операций на лето 1942 г. вынудили Абвер и РСХА коренным образом пересмотреть подходы к организации, структуре, кадровому составу и подготовке как отдельных агентов, так и разведывательно-диверсионных формирований, более четкому определению их функций и задач, улучшению материально-технического оснащения, легендированию, маскировке и т. д. Наряду с продолжающейся переброской на линию фронта и в прифронтовую полосу агентов-одиночек, основная ставка была сделана на небольшие, в составе 3–4, реже 10–25, иногда 30–40 и даже 100 и более человек, диверсионно-разведывательные группы с обязательным наличием в них радистов. Тогда же с помощью авиации началась их доставка не только в прифронтовые районы, но и в глубинные области СССР – Центральную часть России, Среднюю Азию, Кавказ, Урал, другие отдаленные места. Позже сюда стали направляться и более крупные диверсионно-разведывательные формирования со специфическими подрывными задачами, прежде всего для организации вооруженных банд и различных националистических выступлений. Тем самым немецкие спецслужбы вступили во второй период войны на невидимом фронте.