Чтобы облегчить борьбу с политическими противниками, Геринг сформировал собственный репрессивный аппарат. Он вывел из общего полицейского аппарата политическую полицию и создал управление тайной государственной полиции. Руководство новым полицейским управлением было поручено Рудольфу Дильсу, который с 1931 года отвечал в министерстве внутренних дел Пруссии за борьбу с коммунизмом. Показательно, что, несмотря на изменение формы государственного правления, ведомство Дильса как бы являлось восприемником традиций Веймарской республики, а потому он стал набирать в новую специальную полицию сотрудников, с которыми был знаком еще по республиканским временам. Именно на базе тайного государственного полицейского управления и была сформирована позже тайная государственная полиция — гестапо. Однако даже в Пруссии на полицейских постах оказались представители Национал-социалистической партии, которые пытались противиться проводимой Герингом централизации. Это во многом облегчило Гиммлеру проникновение в прусский полицейский аппарат. В первую очередь рейхсфюрер мог рассчитывать на созданную 22 февраля 1933 года Герингом вспомогательную полицию. К марту 1933 года ее численность в Пруссии составляла несколько десятков тысяч человек. На тот момент в ней превалировали штурмовики (25 тысяч человек). В то же самое время в прусской вспомогательной полиции было 15 тысяч эсэсовцев и 10 тысяч членов «Стального шлема». Безусловное господство штурмовиков рассматривалось руководством партии и СС как существенная проблема, так как своим разнузданным поведением они рисковали подорвать авторитет НСДАП и государства.
В этих условиях Геринг и Дильс были просто-напросто вынуждены положиться на СС, которые были давнишними конкурентами СА. Им казалось, что они выбирали меньшее из зол. В итоге 21 апреля 1933 года МВД Пруссии издало приказ, в котором предписывалось, что службу в частях вспомогательной полиции могли нести только служащие СС. Штурмовики же должны были быть только «помощниками» обычных полицейских. При этом предполагалось, что будет происходить определенное сотрудничество и взаимопроникновение политической полиции и подразделений СС. Именно они должны были заняться преследованием политических противников «нового режима», штурмовики же должны были участвовать только в качестве ограждения во время проведения массовых мероприятий.
В июне 1933 года наметились контуры нового конфликта. Это было связано с тем, что Эрнст Рём был назначен комиссаром прусской вспомогательной полиции, а Генрих Гиммлер — комиссаром политической вспомогательной полиции. После этого Дильс сообщил своему начальнику Курту Далюге, что в будущем планировалось набирать служащих гестапо только из служащих СС. Чтобы соблюсти эти формальные предпосылки, почти все служащие тайной государственной полиции были провозглашены кандидатами на вступление в СС. Герман Геринг не возражал против подобного развития событий. Являясь комиссаром присоединенной к гестапо политической вспомогательной полиции, Генрих Гиммлер смог ввести в состав тайного государственного полицейского управления своего человека — унтерштурмфюрера Вальтера Зоста. Благодаря этому у Гейдриха появилась возможность вводить людей из СД в состав подразделений гестапо.