Решено было тогда на самом верху направить на работу в органы ОГПУ людей из системы партийного контроля и Ивара Питера, члена комиссии по проверке чекистских органов тоже направили на работу в ОГПУ. Придя в органы ОГПУ, Питер первоначально был совсем один в чуждом чекистском окружении. Помощника у него не было. Друзей ему было найти неимоверно сложно, ибо за спиной Питера в центральном аппарате ОГПУ говорили, что все разоблачения он делал с карьеристской целью, с целью самому пролезть в органы ЧК. Но Питер знал, что это ничем не обоснованное обвинение, ведь он, начиная вскрывать плохую работу органов ЧК, сразу же после этого перешел к разоблачению конкретных лиц на новой работе.
Он вначале присматривался к работе, а затем начал свою работу с разгрома польских шпионов, которые пролезли во все отделы органов ЧК. В их руках была советская разведка. Первым он помог разоблачить бывшего чекиста Марковского, оказавшегося польским шпионом. Ягода же и Менжинский подняли, по этому поводу вопль, что Питер преследую лучших людей, и вместо того, чтобы арестовать Марковского, послали работать в провинцию. При первой же возможности Питер все же арестовал шпиона и тот во всех своих преступлениях против советской власти быстро признался. Оказалось, что Марковский работал на семнадцать иностранных разведок и за время своей работы создал целую организацию предателей и шпионов в органах ЧК. Вот так Питер начал свою работу в органах ОГПУ. Многие его не любили, считали, что он идет по трупам своих личных врагов к успеху.
После выявление резидента Питер сразу же взялся за чистку части центрального аппарата ОГПУ. В ходе чистки был выявлен еще один крупный шпион, а вместе с ним и другие враги народа, пролезшие в органы ОГПУ и занимавшие ответственные посты. После этого успеха по предложению партийного руководства было секретно поручено товарищу Питеру, взять на особый контроль работу группы Шмеерслегера и других, в связи с закрытием в их районе действий особого института, но ему в этом мешал Ягода. Вот так было и до самого последнего времени.
Но тут, благодаря счастливому стечению обстоятельств, преступная деятельность изменников и шпионов, затесавшихся в ряды сотрудников ОГПУ, вышла наружу. Агент советской разведки сообщил с территории иностранного государства интересные сведения о том, что непосредственно вблизи советской границы собирается банда братьями Васильцевыми, бывшими белогвардейскими офицерами и заклятыми врагами советской власти. Затем агент сообщил о том, что вступил в банду для того чтобы лично следить за действиями бандитов.