Попытался он достичь компромисса и с Ремом. В декабре назначил его министром без портфеля. Но тот не удовлетворился и даже счел себя оскорбленным, поскольку в тот же день такое же назначение получил Гесс, чьи заслуги и «вес», по мнению Рема, были неизмеримо меньше. Сам же он считал, что достоин должности военного министра и главнокомандующего. Для чего требовалось разогнать рейхсвер и заменить массовой «народной армией» из СА. На это фюрер пойти не мог. Понимал, что эдакая «армия» в боевом отношении будет близка к нулю. Однако и для Рема компромисс стал уже проблематичен. Тон задавал не он, а революционный настрой штурмовиков. Если бы их лидер пошел на соглашение с Гитлером, его тоже объявили бы «предателем» и нашли себе другого вожака. И Рем, на свою беду, предпочел остаться на гребне волны их чаяний. Авось вынесет куда-нибудь повыше!
В борьбе против него Геринг и Гиммлер оказались союзниками. В «диких» тюрьмах и концлагерях СА (их было уже более сорока) творились безобразия — пытки, избиения, убийства. Правда, то же самое происходило в гестапо и лагерях СС, но они это делали менее демонстративно и более умело «прятали концы». А относительно штурмовиков оба соратника фюрера встали вдруг на позиции защиты «законности». В судах и в прессе была раскручена кампания разоблачений. Часть лагерей СА Геринг закрыл. А Гиммлер добился, чтобы управление и охрана оставшихся лагерей целиком были переданы в ведение СС. И для этого создал в своей организации полки «Тотенкопф» — «Мертвая голова».
Рейхсфюрер СС продолжал прибирать к рукам правоохранительные органы. В начале 1934 г. он стал начальником полиции Бремена, Ольденбурга, а потом и Саксонии, где устроил полную перетасовку аппарата, так долго сопротивлявшегося нацистам. 30 января 1934 г. полицейская служба была выведена из-под юрисдикции отдельных германских земель и поставлена под юрисдикцию рейха. А декретом от 8 марта 1934 г. было узаконено «превентивное» заключение в концлагеря.
Тем не менее у полиции все еще оставались два «хозяина». И Геринг, надо сказать, оказался в затруднении. С одной стороны, став фельдмаршалом и министром авиации, он физически не мог вникать в полицейские вопросы. А при контактах с деловыми кругами и представителями Запада столь грязное поприще деятельности портило его имидж и репутацию. А с другой, полиция была реальной силой, которую не хотелось выпускать из рук. Гиммлер и здесь пробовал применить «кадровые методы», назначив своим представителем в Восточной Германии группенфюрера Курта Далюге — он тогда считался вторым лицом в СС, тоже пользовался персональным покровительством Гитлера. И предполагалось, что через него осуществится переход прусской полиции к Гиммлеру.