Гейдрих ценил организаторские и аналитические способности Шелленберга, его высокий интеллект и разносторонние знания. Ко всему прочему, Гейдриху просто неинтересно было разговаривать с остальными своими подчиненными на какие-либо темы, хоть чуть-чуть отклоняющиеся от чисто служебных.
Когда в 1939 году было образовано РСХА, Шелленберг был назначен начальником отдела Е-4 в управлении Амт-IV, ранее известном как гестапо; отдел занимался контрразведкой, то есть борьбой со шпионажем, как в самой Германии, так и в оккупированных ею странах. Шеф Амт-IV рейхскриминальдиректор и оберфюрер СС Генрих Мюллер не был слишком обрадован этим назначением. Он прекрасно понимал, что его новый подчиненный (цену которому он прекрасно знал) как офицер СД в своей работе будет ориентироваться непосредственно на Гейдриха. (Через пять лет Мюллер со злорадством мелко отомстит Шелленбергу, приказав ему лично арестовать адмирала Канариса, хотя мог поручить это любому своему подчиненному самого скромного звания. Мюллер и Шелленберг в это время занимали равные должности – начальников управлений РСХА, но Мюллеру, как шефу зондеркомиссии, расследующей дело о покушении на Гитлера 20 июля 1944 года, были предоставлены особые полномочия. Шеф гестапо знал, что Шелленбергу выполнить этот приказ будет весьма неприятно ввиду особых отношений его с Канарисом как с коллегой по разведке.)
Мюллер всегда был неприятен Шелленбергу. В этом назначении Шелленберга несколько утешало одно – им не приходилось каждодневно встречаться нос к носу. Кабинет начальника гестапо находился на Принц-Альбрехтштрассе, 8, отдел же контрразведки располагался на Курфюрстендам, 140.
С началом Второй мировой войны Гейдрих понял, что разведывательная работа Амт-VI (бывшего СД-заграница) в РСХА поставлена далеко не на профессиональном уровне. Военная разведка адмирала Канариса во всех отношениях ее превосходила. И уж совсем выводило из себя шефа СД, что она порой уступала даже той информации, которую собирали «чистые» дипломаты из ведомства ненавидимого им министра иностранных дел Иоахима фон Риббентропа.
Одно из объяснений этого феномена превосходства абвера он понимал, хотя признаться в этом боялся даже самому себе: сотрудники военной разведки, настоящие офицеры, а не «фюреры» с разными приставками, были куда менее политизированы и идеологизированы, нежели последние. Они больше думали о деле, нежели о превосходстве арийской расы над всеми остальными. Понимал это и Шелленберг, но только после войны, закончившейся полным разгромом гитлеровской Германии, уже ничем не рискуя, решился признаться.