Приобретя новую работу, Гебхард Гиммлер мог подумать и о создании семьи. В 1897 году он женился на дочери торгового агента Анне Марии Хайдер. Невеста была моложе жениха всего лишь на год, ей шел 31-й год. Относительно причин этого брака имеется множество версий. Петер Лонгэрих указывал на то, что отец невесты скончался, когда девочке было всего лишь шесть лет, а потому едва ли можно было рассматривать это как брак по расчету. Однако Катрин Гиммлер в своей книге «Братья Гиммлеры» указывала на то, что приданое бабушки составляло около 300 тысяч марок, что по тем временам было очень приличной суммой.
У Анны и Гебхарда Гиммлеров родилось три сына: Гебхард, Генрих и Эрнст. Генрих Гиммлер был вторым ребенком, средним из братьев. Он появился на свет 7 октября 1900 года. Он с самого детства удостоился высокой чести. Принц Генрих, которого в свое время воспитывал Гиммлер-старший, выразил готовность взять шефство над своим тезкой. Несмотря на то что в порядке наследования баварского трона Генрих Виттельсбах находился на безнадежном девятом месте, все же Генрих Гиммлер оказался связан с баварским двором, что позже весьма положительно сказалось на его карьере. На связь семейства Гиммлеров с баварской правящей династией указывало так же то обстоятельство, что сыновья при крещении получили вторые имена, которые были знаковыми для Южной Германии. Гебхард-младший получил второе имя Людвиг, которое было дано в честь Людвига II Баварского, а Генрих — Луитпольд, которое было дано в честь принца-регента.
Семейство Гиммлеров жило в достатке, вело размеренную жизнь, а при воспитании детей ставка делалась на усердие и религиозность, что на рубеже двух столетий было едва ли не отличительной чертой всех состоятельных мюнхенских служащих. В то время как Анна вела домашнее хозяйство и заботилась о благополучии детей, Гиммлер-старший пытался реализовать свои педагогические навыки не только в гимназии, но и в рамках семьи. Он старался превратить своих детей не просто в образованных людей, но в своего рода эрудитов, а потому сосредоточился на основательном изучении классической литературы, истории и усвоении древних языков. Приобщение детей к религиозности было инициативой матери, которая была убежденной католичкой; Гиммлер-старший, напротив, предостерегал свою супругу от чрезмерной активности в этой сфере. Несмотря на все голословные заявления, которые появлялись в исторической литературе 70–80-х годов XX века, отцовский авторитет Гебхарда Гиммлера выражался отнюдь не в деспотичной строгости, а в терпеливом воспитании своих сыновей. Они подчинялись не его воле, а должны были действовать в строгом соответствии с системой правил, которая была педантично разработана их отцом. Впрочем, эта строгость не имела ничего общего с жесткостью, но была пропитана радушием и добротой. Об этом говорит хотя бы тот факт, что Гиммлер-старший значительную часть своего свободного времени посвящал собиранию почтовых марок. Он охотно показывал сыновьям свою коллекцию, чем привил им любовь к филателии. Кроме этого он обучал детей стенографии. По этой причине почти вся семейная переписка Гиммлеров сохранилась в виде стенографических записок, что нередко создает проблемы для современных историков и исследователей.