Сталин учел, что правые числят заместителя председателя ОГПУ Трилиссера среди своих сторонников и при очередной перестановке убрал его из аппарата госбезопасности.
Впрочем, похоже, и Генрих Ягода тоже жаждал устранения Трилиссера, удачливого руководителя разведки, как вероятного соперника в борьбе за должность председателя ОГПУ. Они оба были замами, оба понимали, что Менжинский серьезно болен и что в ЦК подыскивают ему замену.
Конфликт двух замов окончился победой Ягоды.
Трилиссер публично обвинил Генриха Григорьевича в поддержке «правых уклонистов», в дружеских отношениях с лидерами правых. Трилиссер сыграл ва-банк и проиграл. Сталину это не понравилось. 27 октября 1929 года Трилиссер был освобожден от работы в ОГПУ.
В феврале 1930 года Трилиссер получил должность заместителя наркома рабоче-крестьянского контроля. Его ввели в состав президиума Центральной контрольной комиссии ВКП/б/. В 1934 году назначили уполномоченным Комиссии советского контроля по Дальневосточному краю.
10 августа 1935 года решением политбюро Трилиссера перевели на работу в Коминтерн. После седьмого конгресса его избрали членом президиума и утвердили секретарем исполкома Коминтерна — под псевдонимом Москвин. Сталина, отдыхавшего на юге, не поставили в известность, что Трилиссеру изменили фамилию. И он прислал Кагановичу возмущенное письмо:
«Почему кандидатуру Трилиссера в ИККИ заменили кандидатурой Москвина? В чем дело?»
Сталин подумал, что члены политбюро решили выдвинуть Ивана Михайловича Москвина. Это был известный партийный работник. В двадцатые годы он работал в Ленинграде и презирал ленинградского вождя Зиновьева. Иван Москвин был одним из немногих ленинградцев, резко выступивших против Зиновьева.
Сталин приметил Москвина, перевел его в Москву, сделал членом оргбюро ЦК, кандидатом в члены секретариата ЦК и поставил руководить всеми руководящими партийными кадрами. Своим заместителем в организационно-распределительном отделе ЦК Москвин поставил исполнительного Николая Ивановича Ежова. Но Сталин вскоре в Москве разочаровался: Иван Михайлович был ригористом и партийным романтиком, верил в то, что говорил. Поэтому из партаппарата его убрали.
Лазарь Каганович, оставшийся на время отпуска Сталина на партийном хозяйстве, поспешил успокоить вождя:
«Трилиссера переименовали в Москвина ввиду того, что его фамилия известна как бывшего работника НКВД».
Коминтерновские дела были Трилиссеру не в новинку. Еще в декабре 1922 года решением оргбюро ЦК он был включен в «постоянную нелегальную комиссию исполкома Коминтерна». Задача состояла в том, чтобы помочь компартиям научиться действовать в нелегальных условиях: разрабатывались средства связи в условиях строжайшей конспирации, шифры, методы создания тайных типографий.