Одной из основных задач, которые пришлось решать Дмитриеву в Свердловске, являлось разрушение костяка кабаковских выдвиженцев. Хотя руками НКВД Сталин вовсе не боролся за социальную справедливость, а лишь устранял из партийного и государственного аппарата неугодные ему кланы, тем не менее объективно это был процесс необходимый и полезный для общества. Дмитрий Матвеевич деятельно взялся за расчистку доставшихся ему авгиевых конюшен и довольно быстро собрал необходимую «фактуру», то есть документальные свидетельства политических колебаний, финансовых злоупотреблений и прямых уголовных преступлений Кабакова и его присных.
Первым серьёзным, хотя и неявным, ударом по Кабакову явился арест «Кошелька», кабаковского выдвиженца Василия Федоровича Головина. 11 января 1937 г. пленум исполкома снял его с должности за «политические ошибки». Не прошло и двух недель, как 23 января его взяли под арест. Дело было раскручено стремительно, никто в Свердловске, по-видимому, не предполагал способность Дмитриева к таким «стахановским» темпам. Когда Кабаков в феврале попытался было принять меры в защиту своего протеже, оказалось, что действовать уже поздно. Василий Головин к тому моменту признал виновность во всех инкриминируемых прегрешениях и наговорил столько, что ни о каком освобождении не могло быть и речи. В последней декаде марта 1937 г. Головин был осужден и уже 24 числа расстрелян. За 5 дней до этого 19 марта покончил с собой Николай Узюков, один из близких к Головину и Кабакову номенклатурных работников, освобождённый от должности заведующего отделом агитации и пропаганды на основании показаний, данных Головиным во время следствия.
С этого момента падение Ивана Кабакова стало лишь вопросом времени, причём ближайших недель. Не совсем ясно, понимал ли это сам Кабаков. В конце второй декады мая он спокойно отправился в Москву, не зная о том, что 17 мая Политбюро ЦК приняло лаконичное и безапелляционное постановление, гласившее: «На основании имеющихся материалов, в которых член ЦК ВКП(б) Кабаков обвиняется в принадлежности к контрреволюционному центру правых, исключить Кабакова из состава ЦК ВКП(б) и из партии с передачей его дела в Наркомвнудел». В то самое время, когда Кабаков ехал в Москву, в обратном направлении по той же самой железной дороге катился салон-вагон с членом Политбюро Андреем Андреевым, который направлялся в Свердловск для проведения пленума обкома партии. Пленуму предстояло формально разоблачить «клику Кабакова» и «политически очиститься». 22 мая Кабаков узнал, что его арестуют. Есть легенда, согласно которой он сумел позвонить в Свердловск и сообщить об аресте второму секретарю обкома Константину Федоровичу Пшеницыну, но в возможность такого звонка поверить сложно. Кабаков был взят под стражу в Кремле, и группа задержания просто физически не позволила бы ему добраться до телефона. Скорее всего, звонок Пшеницыну был сделан кем-то из работников ЦК.