Хесс, которого в 1938 году назначили адъютантом к начальнику Заксенхаузена, вспоминает проверку лагеря Гиммлером летом 1938 года. Он взял с собой Фрика, министра внутренних дел, для которого это был первый визит в концентрационный лагерь. Гиммлер был «в самом веселом настроении и был явно доволен тем, что наконец может показать министру внутренних дел и его чиновникам один из секретных и печально известных концентрационных лагерей». Гиммлер отвечал на вопросы «спокойно и любезно, хотя часто саркастически». После осмотра лагеря коллег пригласили обедать.
Удачное вторжение в Австрию пробудило у Гиммлера вкус к внешней политике. Гитлер стал использовать его, как и Геринга, хотя и с меньшими полномочиями, для полуофициальных дипломатических поручений наряду с формальными переговорами, которые вело Министерство иностранных дел во главе с Риббентропом, получившим должность в начале 1938 года. Гиммлер стал одним из близких и самых доверенных подчиненных Гитлера. Хотя их отношения оставались официальными, Гиммлер стал в определенной степени признанным компаньоном, который, в отличие от генералов, делавших все возможное, чтобы отговорить Гитлера от грандиозных планов войны, всегда беспрекословно поддерживал Гитлера и, если его просили, советовал, как лучше вести эту политику. Гиммлер возглавлял делегацию, принимавшую фюрера в Линце, а через несколько недель, в мае, он среди других избранных сопровождал Гитлера во время визита в Италию, где вместе с фюрером остановился в Квринале, королевском дворце. Кто-то слышал, как он заметил: «Здесь дышится как в катакомбах», и эти слова донесли королю.
Тем не менее, Гитлер чувствовал, что Гиммлера стоит выдвигать как дипломата; до этого его посылали в Италию в 1936 и 1937 годах с визитами доброй воли, и каждый раз он брал с собой Гейдриха. Были установлены дружеские отношения с Боччини, министром полиции правительства Муссолини, и с самим Муссолини, который лично встретился с Гейдрихом, когда Гиммлер заболел во время второго визита.
С 1938 года Гиммлер использовал против Министерства иностранных дел и верховного командования ту же стратегию, с помощью которой подорвал власть Геринга над полицией. Он поддерживал дружеские отношения с Риббентропом, одновременно вторгаясь в обязанности Министерства иностранных дел, или передавал копии документов за рубеж через шпионов СД. После разговоров с Гитлером, в которых упоминалось о том, что западные силы могут использовать Северную Африку для контрнаступления на Европу, самый умный агент разведки из штата Гейдриха — Шелленберг — осенью 1938 года был послан в Западную Африку с рискованной миссией шпионить за портами. В январе следующего года Гиммлер сделал доклад перед своим штабом о собственных беседах с японским послом относительно договора, который укрепил бы Тройственный пакт, и предпринимаемых Японией попыток подослать агентов в Россию для убийства Сталина. В мае 1939 Чиано сообщал о том, что Гиммлер советовал Италии установить в Хорватии протекторат — политику, противоположную политике Риббентропа, желавшего оставить Югославию нетронутой. В следующем месяце Гитлер поручил Гиммлеру сложную задачу вести переговоры с итальянским послом Бернардо Аттолико о переселении тирольских немцев в Германию. Это было первое из массовых передвижений населения на расовой почве, которое было так созвучно этническим чувствам Гиммлера.