Закончив всю подготовительную работу, 26 апреля 1933 года Геринг обнародовал декрет, создающий тайную государственную полицию: Die Geheime Staatspolizei, которая подчинялась ведомству министра внутренних дел Пруссии, то есть самому Герингу. В этот же день Дильс был назначен заместителем руководителя этой полиции. На немецком языке слово «Geheime» имеет два значения: «тайный» и «частный». Действительно, эта политическая полиция стала тайной и частной полицией одной партии, даже одного человека. Слияние партии и государства, практикуемое всеми тоталитарными режимами, здесь оказалось полным.
В тот же день другим декретом создавался штаб государственной полиции в каждом округе Пруссии, подчиненный центральному управлению в Берлине. Если до сего момента деятельность гестапо ограничивалась только Берлином, то теперь оно протягивало свои щупальца в каждый округ, но пока еще не выходя за пределы Пруссии.
Чистка закончилась не только в полиции, но также в правоохранительных органах и среди государственных служащих. Закон от 7 апреля предоставил возможность увольнять судей и чиновников, настроенных против нацистов; кроме того, евреев и тех, кто когда-либо состоял в левых организациях.
22 июня министерское предписание Геринга обязывало всех чиновников следить за высказываниями государственных служащих и докладывать ему о тех, кто позволял себе критиковать новый режим. 30 июня аналогичным распоряжением вменялись доносы среди рабочих. Так начался период шпионства, анонимных доносов и постоянной слежки друг за другом, которая пронизала Германию во всех сферах ее деятельности.
В центре этой паутины находилась политическая полиция. В соответствии с ее почтовым сокращением (по начальным буквам) постепенно все привыкли называть ее гестапо, и скоро это название стало печально известным. Начиная с июля гестапо решительно взялось за оппозицию и показало свою эффективность. Оно разгромило подпольную организацию компартии, над которой коммунисты трудились многие годы, и арестовало все ее руководство во главе с Джоном Шеером. Шеера должны были судить за восстановление запрещенной партии, но штурмовики выкрали его из тюрьмы и убили.
Нанося удары по оппозиции, службы Дильса также занялись, по приказу Геринга, подрывом позиций штурмовиков. Основной их мишенью оказался Рем.
Геринг, в силу своего положения, руководил и концентрационными лагерями. Однако большинство концлагерей, открытых службами СА, не подчинялось его ведению. Слухи, которые рассказывали об этих местах, были просто ужасными. Но не это шокировало Геринга — он не мог вынести то, что его всевластие имеет брешь. Тревожные слухи дали ему повод открыто напасть на Рема, ставшего в этот момент еще более опасным, чем всегда. После прихода нацистов к власти отряды штурмовиков росли по часам. Одна только берлинская группа штурмовиков насчитывала уже более 600 тысяч человек.