Власть Гиммлера в этой странной и уродливой системе управления была все еще ограничена с одной стороны Фриком, упрямым бюрократом, занимавшим пост министра внутренних дел, а с другой стороны верховным командованием армии, которое не могло смириться с существованием не подчинявшегося ему соединения СС численностью в четверть миллиона человек, как когда-то не могло смириться с существованием более многочисленных, но гораздо менее дисциплинированных сил Рема. Что касается бюрократов, то внимание Геринга теперь было отвлечено от политической полиции, и Гиммлер с Гейдрихом некоторое время сотрудничали с Фриком и Гюртнером, министром юстиции; в 1934–1935 годах оба они старались сдержать начальников СС и СД и их агентов, хватавших любого человека по своему усмотрению и державших пленников на «защитном попечении». Фрик даже пытался составить законопроект, первоначально действовавший только в Пруссии, который давал узникам лагерей право обращаться в суд. Когда закон рассматривался в Прусском правительственном совете, на заседание пригласили Гиммлера, хотя он и не являлся членом Совета, а он уж позаботился о том, чтобы закон не был принят. Окончательную победу над Фриком он одержал, когда 2 мая 1935 года прусский административный суд принял решение о том, что деятельность гестапо выходит за пределы его юрисдикции[39].
Тем не менее, лишь 19 февраля 1936 года Гитлер наконец издал декрет о том, что гестапо является особой политической организацией, чья власть простирается на всю Германию. В июне Гиммлер был назначен начальником немецкой полиции в Министерстве внутренних дел, официально подтвердив ту власть, которую давно уже имел. Фрик, хотя формально и являлся начальником Гиммлера в делах полиции, оставил бесполезные попытки вмешаться в его работу[40].
Другой человек, открыто критиковавший Гиммлера, был Шахт, банкир, безжалостный и амбициозный автократ. Получив от Гитлера должность министра экономики, он был решительно настроен управлять делами на свой лад, хотя в конце концов на этом посту его сменил Геринг. Гизевиус утверждает, что он вместе с одним инженером ездил в резиденцию Шахта и по его просьбе произвел обыск, стараясь найти микрофоны, так как министр подозревал, что агенты Гейдриха шпионят за ним и записывают его резкие замечания. Они нашли микрофон, вмонтированный в телефонную трубку. Шахт в своих мемуарах «Первые 76 лет моей жизни» утверждает, что Гиммлер угрожал ему, когда он принимал должность, и даже предлагал ему уйти в отставку. В ответ Шахт послал ему краткую записку, где говорилось, что он уволится, когда ему прикажет фюрер, а СС лучше убраться с его дороги.