Это была изнурительная и тяжелая схватка с сильным и коварным врагом. Сотрудники абвера и «Цеппелина», полиции безопасности СД и ГФП обладали богатым опытом оперативной работы и знали, что в случае разоблачения их ждал суд военного трибунала, а потому боролись до конца. В. С. Абакумов жестко контролировал работу на этом участке и глубоко вникал в большинство оперативных разработок.
Тяжелой работой для сотрудников СМЕРШа стало выявление и разоблачение среди пленных военных преступников. Месяцами, а порой и годами оперативники собирали доказательства преступной деятельности нацистов.
В органах ГУКР СМЕРШ НКО СССР фильтрацией бывших военнопленных и репатриантов занимался 2-й отдел, непосредственно в боевых порядках эту работу проводило 3-е отделение 2-го отдела Управления фронта. Завершалось оно во фронтовых проверочно-фильтрационных лагерях и спецлагерях НКВД.
Управления СМЕРШ фронтов ежемесячно направляли в ГУКР СМЕРШ специальные доклады по результатам фильтрации бывших военнопленных. Акценты в них делались на состоянии и эффективности работы по выявлению вражеских агентов, лиц, совершавших военные преступления или сотрудничавших с оккупантами.
10 апреля 1945 года начальник Управления контрразведки СМЕРШ Ленинградского фронта генерал-лейтенант А. С. Быстров[21] обратился с ходатайством к B. C. Абакумову дать указание отделам СМЕРШа «при обмене военнопленных между СССР и Финляндией установить нашу зафронтовую агентуру». В результате проведенного поиска таковых оказалось 37 человек.
3 мая в 4 часа 45 минут генерал-лейтенант А. А. Вадис[22] доложил по ВЧ-связи Л. П. Берии о результатах розыска деятелей нацистской партии и крупных чиновников гитлеровской Германии. В числе захваченных были начальник отдела радиовещания Министерства пропаганды Г. Фриче, консультант Геббельса по агитации и пропаганде В. Хайнрихдорф, личный врач Гитлера профессор В. Хазе, президент германских моряков в Берлине Э. Гинцман. Последний заявил, что Гитлер и Геббельс покончили жизнь самоубийством, трупы их сожжены и что тело фюрера может находиться в «котловане убежища».
5 мая солдаты взвода ОКР СМЕРШ 79-го стрелкового корпуса обнаружили в одной из воронок от бомбы во дворе рейхсканцелярии трупы Адольфа Гитлера и его жены Евы Браун. Останки Гитлера, Геббельса, членов их семей, а также начальника Генерального штаба сухопутных сил Германии генерал-лейтенанта Кребса находились под охраной контрразведчиков указанного корпуса. Помимо охраны СМЕРШ продолжал поиск новых свидетелей и необходимых документов для опознания и идентификации останков.