В боях за Севастополь мужественно сражался сводный полк НКВД. В июле 1942 года при обеспечении эвакуации Севастополя почти весь личный состав полка погиб. Героические дела павших чекистов увековечены на мраморной доске, прикрепленной к стене старой крепости в районе Балаклавы:
«Здесь насмерть сражался пограничный полк войск НКВД против фашистских захватчиков в Великой Отечественной войне 1941—1945 годов».
К концу 1941 года стало очевидным, что немецко-фашистский план блицкрига с треском провалился. Советская Армия наращивала свои силы. Промышленность и сельское хозяйство, перестроившиеся на военный лад, стали все полнее обеспечивать потребности действующей армии. В тылу врага ширилось партизанское движение.
Ввиду складывающейся перспективы затяжной войны немецко-фашистская разведка задалась целью разведать глубокий тыл нашей страны, расширить районы диверсионной, террористической и иной подрывной деятельности. В связи с этим количество шпионов и диверсантов, заброшенных на советскую территорию в 1942 году, увеличилось по сравнению с 1941 годом более чем в 2 раза. Еще более усилилась деятельность немецко-фашистской разведки в 1943 году. Количество заброшенных вражеских агентов увеличилось по сравнению с 1942 годом почти в полтора раза. Всего в 1943 году на советско-германском фронте действовало более 130 разведывательных органов противника и более 60 специальных школ по подготовке агентуры.
Органы государственной безопасности усилили свою работу по обеспечению безопасности оборонных, промышленных объектов, железнодорожного и водного транспорта, по розыску и обезвреживанию агентов противника. Только на транспорте было задержано 256 агентов-парашютистов, ликвидировано 266 шпионско-диверсионных резидентур противника. Большую помощь чекистам оказывали органы милиции, истребительные батальоны, а также партийный актив и простые советские граждане.
Как и в прифронтовой полосе, органы государственной безопасности в советском тылу широко применяли методы введения противника в заблуждение С помощью дезинформационных мероприятий чекисты скрывали от противника подготовку крупных войсковых операций, переброску войск, подвоз техники, перехватывали каналы связи противника с его агентурой, заманивали ее в ловушки.
Со второй половины 1943 года, когда стало ясно, что фашистская Германия проиграла войну, разведывательные и контрразведывательные органы противника стали готовиться к ведению подпольной борьбы. На занятой гитлеровцами советской территории и на территории самой Германии стали формироваться подпольные силы для ведения подрывной деятельности, закладываться тайники с оружием, средствами связи и продовольствием. Фашисты готовились развернуть в широких масштабах диверсионную и террористическую войну при вступлении советских войск на территорию Германии. В результате этого на территории, освобождаемой Советской Армией, особенно в областях Западной Украины и в Прибалтийских республиках, оказалось большое количество вражеских агентов, различных подпольных организаций, а также предателей и изменников Родины.