Именно ГПУ явилось одним из главных инструментов, с помощью которого Сталину удалось утвердить режим своей личной власти. На ГПУ была возложена основная роль в осуществлении коллективизации сельского хозяйства: его представители входили в «тройки» по ликвидации кулачества, его воинские части обеспечивали депортацию раскулаченных. Громадной была роль ГПУ в организации первых показательных процессов над «буржуазными специалистами» — производственно-технической интеллигенцией, которую обвиняли во вредительской и диверсионно-шпионской деятельности, чтобы свалить экономические трудности на происки «классовых врагов».
Для усиления диктатуры был придуман печально знаменитый тезис Сталина об усилении классовой борьбы по мере продвижения к полной победе социализма. Он лег в основу репрессивной политики 30-х годов, когда массовый террор достиг своего апогея. Инакомыслие преследовалось беспощадно. Лучшие, наиболее яркие личности не вписывались в плоскую систему единомыслия и потому уничтожались, даже если и склоняли свою голову перед «вождем народов». Явью стала система, с провиденческим гением описанная Федором Достоевским в бессмертных «Бесах»: «У него каждый член общества смотрит один за другим и обязан доносом. Каждый принадлежит всем и все — каждому. Все рабы и в рабстве равны. В крайних случаях клевета и убийство, а главное — равенство… Не надо высших способностей! Высшие способности всегда захватывали власть, были деспотами и развращали более, чем приносили пользы, их изгоняют или казнят. Цицерону отрезается язык, Копернику выкалываются глаза, Шекспир побивается камнями…»
Для Шекспиров, Цицеронов и просто независимо мыслящих людей у Сталина наготове было Управление лагерей ОГПУ, в начале 30-х переименованное в Главное управление лагерей — ГУЛАГ. Семнадцать тысяч заключенных в 1930 году и около двух миллионов в 1940-м, сотни тысяч расстрелянных… «Врагом народа» становился сам народ.
Работа органов госбезопасности проходила под личным контролем Сталина. С созданием в 1934 году общесоюзного Народного комиссариата внутренних дел, с включением в его состав ОГПУ во главе с Ягодой механизм репрессий был запущен на полные обороты. Любые просчеты в строительстве зданий, поломки техники, аварии на железных дорогах, неточности в финансовых документах трактовались как результат «диверсионно-вредительской деятельности». В массовом порядке фабриковались судебные дела на «шпионов» и «террористов». Не было ни одного мало-мальски серьезного государства мира, в пользу которого якобы не «шпионили» «враги народа». Начатые процессом над Зиновьевым и Каменевым массовые репрессии в отношении государственных, партийных и военных деятелей во многом обезглавили страну, армию в преддверии страшной схватки с фашизмом.