В 1958 году было установлено, что Николаев проживает на Украине. Его арестовали. На предварительном следствии и в суде Николаев, изобличенный свидетелями, дал показания о своей преступной деятельности, совершенной вместе с сослуживцами по команде СД, а также о Денисове, Семизорове, Бондареве, Гордиенко. Место нахождения их не было известно, но предполагалось, что они скрываются где-то на советской территории. Так, Козловцев показал на следствии, что незадолго до своего ареста видел на рынке в Харькове Денисова, который будто бы собирался выехать в Белгород.
Н. И. Стукалов, взявшийся за розыск Денисова, провел ряд мероприятий по Харькову и Белгороду, но безрезультатно. Дальнейшие поиски привели его в Велико-Бурлакский район Харьковской области, где были получены данные о том, что некий Денисов работал в этом районе бухгалтером и выбыл в город Луганск (ныне Ворошиловград). Дальнейшей проверкой по Луганской области было установлено, что в Сватовском районе в конторе свеклобазы работает бухгалтер М. Д. Денисов, который ведет замкнутый образ жизни, старается поменьше бывать на людях. В обличье тихого, скромного бухгалтера, как затем выяснилось, и скрывался матерый каратель.
Работник УКГБ В. А. Сысоев, имея разноречивые сведения в отношении Семизорова, длительное время продвигался по едва наметившемуся следу, который в конце концов привел в село Заречаны, под Житомиром. Оказалось, что в этом селе с послевоенных лет живет и работает асфальтировщиком в дорожно-строительной конторе И. А. Семизоров. При сопоставлении биографических данных Семизорова с карателем Семизоровым просматривались различия в возрасте (на 5 лет), не сходилось место рождения, да и в написанной Семизоровым биографии указывалось, что весь период Великой Отечественной войны он находился в плену, ни слова не говорилось о пребывании в городе Шахты. Сысоев выехал в Заречаны, там добыл фотокарточку Семизорова и, возвратясь в Ростовскую область, предъявил ее жителям города Шахты, хорошо знавшим Семизорова. С большой уверенностью они опознали разыскиваемого. При предъявлении ордера на арест Семизоров некоторое время изображал недоумение, выдавая себя за другое лицо, но вопросы, которые задавали оперативный работник и следователь при выяснении личности арестованного, убедили его в бесполезности скрывать свое истинное лицо. На первом же допросе после ареста Семизоров признался, что он служил в команде СД в городе Шахты.
Гордиенко по липовым справкам устроился подсобным рабочим в Добропольскую геологоразведочную партию, которая занималась изысканиями на территории Донецкой области. Скрывавшегося карателя вполне удовлетворяли малолюдные места, и он почти успокоился, полагая, что спрятался надежно. Но по ночам его все же одолевали страхи. И не напрасно: по его следам незримо шел оперативный работник Шахтинского аппарата УКГБ капитан В. Д. Еремин. По отрывочным сведениям, полученным из Донецкой области, у Еремина возникло предположение, что Гордиенко скрывается на территории этой области, хотя официальные справки кустовых адресных бюро утверждали, что Гордиенко проживающим в городах и поселках Донбасса не значится. При выезде в город Доброполье Еремин нашел женщину, которая жила с прибывшим неизвестно откуда гражданином по фамилии Гордиенко. Он работал каменщиком в местной геологоразведочной партии. Выяснение личности этого человека дало обнадеживающий результат, а встреча с ним оперативного работника окончательно подтвердила предположение, что это был интересующий органы государственной безопасности Гордиенко.