В Великую Отечественную войну органы военной контрразведки вступили в виде 3 подразделений: 3-го управления Наркомата обороны, 3-го управления Наркомата Военно-морского флота и 3-го отдела Наркомата внутренних дел СССР. 17 июля 1941 г. их объединили в Управление особых отделов НКВД. «Нащупывалась» эффективная организация ее деятельности уже в обстановке военного времени. В апреле 1943 г. произошло очередное реформирование структуры в Главное управление военной контрразведки, названное хлестко — «Смерть шпионам» (Смерш).
Управления Смерш имелись в Наркомате обороны, в Наркомате Военно-морского флота. Отдел контрразведки существовал при НКВД. Фактическое руководство взял на себя И. Сталин. Основной задачей органов контрразведки определялась борьба с агентурой противника, со внедрившимися в войска антисоветскими элементами, с изменниками Родины и предателями, с дезертирами и членовредителями. Официальным начальником контрразведки назначили опытного сотрудника НКВД В. С. Абакумова, сделавшего головокружительную карьеру, начиная с рядового сотрудника и заканчивая главой одного из самых значительных силовых ведомств. Правда, завершилась его карьера трагично — 19 декабря 1954 г. Абакумова расстреляли с клеймом «враг народа».
Особенно активная деятельность Германии по заброске в советский тыл специально подготовленных агентов пришлась на 2-ю половину 1943 г. и весь 1944 г. Чаще это были военнопленные Красной армии (иногда — эмигранты), согласившиеся работать на врага ради выживания. Этим людям нельзя не сочувствовать, поскольку посылали их на задания, от которых перевербоваться они не могли. Причем сзади на них были направлены штыки нацистов, а спереди советская контрразведка безжалостно уничтожала «изменников Родины».
Начиная со 2-й половины 1943 г., контрразведка стала активно участвовать в радиоиграх с нацистами, чтобы парализовать деятельность немецкой разведки и способствовать победе над врагом. Выглядело это следующим образом: противнику от лица засланных ими же немецких агентов или завербованных ими советских граждан передавалась дезинформация, разработанная с учетом указаний Генерального штаба. К концу 1943 г. радиоигр, которые вел Смерш, насчитывалось 83. Советское командование придавало огромное значение дезинформированию противника. В январе 1945 г., когда уже не возникало сомнений в поражении Германии, активно функционировали 6 радиоточек контрразведки, в феврале — 4, столько же — в апреле, а последняя длилась 20 дней и называлась весьма символично — «Финал». Именно она морзянкой возвестила о завершающем этапе войны.