Большую работу СМЕРШ проводил в фильтрационных лагерях. Тысячи бывших советских военнопленных возвращались на Родину. Возвращались и бежавшие с немцами, и угнанные в Германию на работу. И выявить среди них вражескую агентуру, тех, кто служил в РОА («Русская освободительная армия»), пособников нацистов, лиц, служивших в полиции, бывших старост и сотрудников оккупационной администрации предстояло СМЕРШу.
Следует заметить, что сотрудников СМЕРШа не баловали званиями, должностями. Самая низкая должность – помощники оперуполномоченных, потом шли оперуполномоченные, старший оперуполномоченный. В небольшой части – отдельном батальоне – был один сотрудник СМЕРШа, оперуполномоченный, старший лейтенант. Один-одинешенек, без какого-либо аппарата. Когда, например, из четырех отдельных батальонов создали бригаду, то в каждом из них осталось по одному оперу, а в бригаде уже был отдел контрразведки СМЕРШ, возглавлял его капитан с весьма скромным штатом. Должность секретаря ОКР СМЕРШ была офицерской.
Проведенная в апреле 1943 года реорганизация органов НКВД СССР – выделение из их состава органов государственной безопасности, передача военной контрразведки в ведение наркоматов обороны и Военно-Морского Флота, преобразование особых отделов в управления – отделы СМЕРШа – позволила децентрализовать управление этими важнейшими подразделениями, обеспечивающими безопасность Советского государства и его Вооруженных сил, приблизить военную контрразведку к командованию, более эффективно решать задачи борьбы с вражеской агентурой в войсках и на боевых кораблях, лучше организовывать оперативные, заградительные и предупредительно-профилактические мероприятия на фронте, в прифронтовой полосе и в тыловых районах страны.
Ведомственное переподчинение военной контрразведки и ломка ее структуры в самый разгар военного противоборства были достаточно смелым шагом, но, как показало время, полностью себя оправдавшим. СМЕРШ переиграл абвер, а после его упразднения в мае 1944 года – новые структуры гитлеровских спецслужб (функции абвера были переданы разным подразделениям Главного управления имперской безопасности – РСХА). Во время Великой Отечественной войны (1943–1945) СМЕРШ был на пике борьбы двух мощных разведок и контрразведок, нашей и германской.
Если в начале Великой Отечественной войны шпионов и диверсантов ставили к стенке как предателей и изменников, то со временем наши спецслужбы изменили тактику, с созданием СМЕРШа многое изменилось, о чем будет сказано ниже. Менялись и люди. Они же были разные. Одним сотрудникам наших спецслужб не хватало профессионализма, другие под тяжестью военной ситуации первых дней и месяцев войны исповедовали лишь обвинительный уклон. Но было тогда немало чекистов, которые брали на себя смелость поставить и обозначить правильный диагноз, отличить друга от недруга, использовать агента против тех, кто его послал.