Но Геринг переманил Далюге. Назначил генералом полиции и сделал промежуточным звеном между собой и Дильсом. Да вот только в делах своего ведомства новоиспеченный генерал Далюге совершенно не разбирался, и эти дела по-прежнему шли через пень-колоду. И положение запуталось. Гиммлер снова закидывал удочки фюреру о концентрации управления полицией в своих руках. Далюге вместо союзника стал его конкурентом, полагая, что возглавить политическую полицию Пруссии и рейха должен он. Однако и Геринг пока еще не собирался уступать руководство ею — а Гитлер не хотел его обижать. Разрешилась междоусобица тем, что Далюге неосторожно выбрал в союзники министра внутренних дел Фрика. А с ним Геринг был в отвратительных отношениях. И группенфюрера совместными усилиями двух сторон отпихнули в сторону.
После чего фюрер принял компромиссное решение. Отдал полицию Пруссии Гиммлеру — но с подчинением его Герингу. Дильс 1 апреля 1934 г. получил отставку — его перевели на должность помощника начальника полиции Кельна. А 20 апреля он сдал свои дела рейхсфюреру СС. Который, став таким образом во главе всей германской полиции, возложил руководство центральной службой гестапо на Гейдриха. Разместилось это заведение по адресу Принц-Альбрехтштрассе, дом 8. Но при реорганизации Гиммлер прихватил и несколько соседних домов — музей фольклора и профессиональную промышленную школу. Из них и сложился изолированный мрачный комплекс зданий берлинского гестапо.
В биографии и карьере Мюллера переезд его покровителей в Берлин тоже стал важной вехой. Состав гестапо Гиммлеру и Гейдриху достался малонадежный и разношерстный. Тут были и «люди Дильса», и «люди Далюге», многие сотрудники были связаны с СА. Ведь всего год назад штурмовиков объявили вспомогательными силами полиции, и как раз из их среды добирались кадры после нацистских чисток и увольнений. Новым начальникам требовалось укрепить аппарат «своими» людьми. А как раз Мюллеру при данном раскладе можно было доверять безоговорочно — в случае победы Рема штурмовики уж конечно не пощадили бы его, припомнив гонения на них в начале 1930-х. Оставалась еще проблема подчинения Герингу. Но тут помогла запутанность нацистской иерархии. Ведь Гиммлер в дополнение к посту начальника полиции остался рейхсфюрером СС, а Гейдрих — начальником СД. А эти структуры Герингу не подчинялись.
И столь ценного специалиста, как Мюллер, они взяли с собой в Берлин. Не просто взяли. В тот же самый день, когда рейхсфюрер принял дела по руководству столичной полицией, 20 апреля, Мюллер был принят в СС, получил звание штурмфюрера (лейтенанта) и одновременно зачислен в главное управление СД. То есть официально стал «человеком» Гиммлера и Гейдриха. В гестапо его определили в отдел, занимавшийся борьбой с коммунистами, марксистами, профсоюзами. Но в СД его нацелили на другое направление — назначили в секцию II 1 Н, ответственным за «внутренний» контроль над НСДАП и СА. Для этого он годился как никто лучше — сам в партии не состоял и ни с кем из ее деятелей заведомо не был связан. Фактически Гейдрих сделал его своей «правой рукой» в деятельности против штурмовиков и внутрипартийной оппозиции.