Вот и получилось, что и без того сложная задача по разоблачению шпиона Полякова в условиях отсутствия вещественных доказательств представлялась тогда практически не выполнимой и заведомо ставила следствие КГБ в тяжелейшее положение. Ко всему этому отсутствовали и правовые основания для возбуждения уголовного дела, предъявления обвинения и ареста Полякова (закон требовал наличия достаточных данных, свидетельствующих о совершении лицом конкретного преступления). В связи с этим следствием была поставлена задача представить хотя бы какие-либо данные, указывающие на наличие в действиях Полякова любого другого состава преступления: например, злоупотребление служебным положением, контрабанда или незаконное хранение оружия. Но даже такое законное требование следователей вызвало почему-то непонимание и досаду.
В мае 1986 года, с опозданием на шесть лет, был проведен негласный досмотр в московской квартире Полякова, где удалось обнаружить оружие иностранного производства и патроны к нему. Его незаконное хранение образовывало состав преступления по статье 218 УК РСФСР и предоставляло следственным органам возможность предъявить Полякову обвинение и применить к нему меру пресечения в виде заключения под стражу. Только благодаря этому обстоятельству руководством КГБ СССР было, наконец, принято подводившее черту под оперативной частью работы и столь давно желанное для контрразведки решение о возбуждении уголовного дела.
Вместе с тем находившиеся в квартире инструкция по связи с американской разведкой, двадцать листов тайнописной копирки, подзарядное устройство для быстродействующих приемопередатчиков и ряд иных предметов шпионской экипировки остались незамеченными контрразведчиками и были выявлены только в ходе расследования уголовного дела.
Упущения в оперативной разработке, в частности отсутствие перечисленных уликовых материалов, объективно поставили перед следствием суперсложную задачу: при полном отсутствии доказательств, исключительно на основе предположения, а не внутренней уверенности в принадлежности Полякова к агентуре ЦРУ, постараться изобличить многоопытного и прекрасно подготовленного разведчика в предательстве.
В конечном счете, поставленные задачи были выполнены. В ходе следствия удалось разоблачить не только Полякова, как главное действующее лицо, но также и выявить на основе всестороннего анализа других изменников Родины. Фамилий их Поляков не стал называть по причине недоказанности предательства. Умолчал он во время допросов, возможно, и еще кое о чем. И если бы заместитель начальника отдела полковник Жучков не прервал его показаний на последнем допросе, то не исключено, что он мог бы все же назвать некоторых своих сослуживцев и должностных лиц высокого ранга в подозрении на шпионаж, в том числе и из ЦК КПСС. Поэтому и поторопились с его расстрелом: как говорил вождь всех народов Иосиф Сталин, «нет человека, нет проблемы».