Следствие по новому делу началось уже 5 января 1936 года. Большинство из его фигурантов уже сидели в тюрьмах или ссылках. Основными обвиняемыми снова стали Зиновьев и Каменев, а также группа бывших других видных сторонников «троцкистеко-зиновьевской линии». На процесс вывели всего 16 человек, среди них были Иван Смирнов, Григорий Евдокимов, Иван Бакаев, Сергей Мрачковский, Исаак Рейнгольд и др.
Этот процесс должен был носить «окончательный» характер, поэтому с подсудимыми предварительно тщательно «работали». О том, как проходила эта «работа» и что предшествовало процессу, точно неизвестно. Сохранилась легенда, что после долгих допросов, угроз расстрела их родственников и детей Зиновьев и Каменев потребовали личной встречи со Сталиным. Она якобы состоялась, и в обмен на обещание сохранить жизнь им и их близким они согласились сказать на суде то, что хотел Сталин. Может быть, и так. Но и все остальные подследственные тоже были сломлены. Остается только догадываться, что им пришлось пережить, если они согласились с выдвинутыми против них поистине фантастическими обвинениями. И что заставило, например, Зиновьева писать Сталину из тюрьмы такие письма: «Подолгу гляжу на Ваш и других членов Политбюро портреты в газетах с мыслью: родные, загляните же в мою душу, неужели Вы не видите, что я не враг Вам больше, что я Ваш душой и телом…»
Двадцать девятого июля 1936 года ЦК ВКП(б) разослал «обкомам, крайкомам, ЦК компартий, горкомам, райкомам» секретное письмо «О террористической деятельности троцкистско-зиновьевского контрреволюционного блока». В нем разъяснялись основные обвинения против обвиняемых и основные «выводы следствия» по их делу. «На основе новых материалов НКВД, полученных в 1936 году, — отмечалось в письме, — можно считать установленным, что Зиновьев и Каменев были не только вдохновителями террористической деятельности против вождей нашей партии и правительства, но и авторами прямых указаний как об убийстве С. М. Кирова, так и о готовившихся покушениях на других руководителей нашей партии, и в первую очередь нат[оварища] Сталина.
Равным образом считается теперь установленным, что зиновьевцы проводили свою террористическую практику в прямом блоке с Троцким и троцкистами».
Эти выводы подтверждались фрагментами показаний исполнителей «главных ролей» на предстоящем процессе. Зиновьев, например, заявил на допросе 23–25 июля: «Троцкистско-зиновьевский центр ставил главной своей задачей убийство руководителей ВКП(б), и в первую очередь убийство Сталина и Кирова. Через членов центра И. Н. Смирнова и Мрачковского центр был связан с Троцким, от которого Смирновым были получены прямые указания по подготовке убийства Сталина».