Уже давшее свои ядовитые всходы нацистское движение, с его организованным хулиганством, уличными драками, скандалами, фанатичной преданностью Гитлеру и бешеным антисемитизмом было ответом на размышления Эйхмана о том, как одержать верх над евреями. В 1927 г. в возрасте 21 года он вступил в германо-австрийское объединение фронтовиков. В 1932 г. при поддержке своего земляка и друга Эрнста Кальтенбруннера, который был уже заметной фигурой в нацистском движении и которому спустя годы предстояло возглавить пост высшего руководителя РСХА, а позже быть повешенным за преступную деятельность этого управления по приговору Нюрнбергского трибунала, Эйхман вступает в ряды СС.
В 1933 г. Эйхман приступает к обучению в лагере СС в Клостер-Лехфельде, после чего в 1934 г. в чине унтер-офицера (унтершарфюрера) его направляют в печально известный концентрационный лагерь Дахау, где прилежный ученик с энтузиазмом осваивает навыки издевательств и пыток заключенных. В 1934 г. он вступает в пресловутую службу СД, где опять-таки с удивительной прозорливостью его направляют на работу в «еврейский» сектор этой организации, который трудится в тесном контакте с «еврейским» отделом гестапо. Только в 1938 г. Эйхман стал офицером СС — лейтенантом (унтерштурм-фюрером).
Всегда алчущий внимания, которое помогло бы ему продвинуться по службе, получив очередное повышение, а значит, и более широкие возможности для достижения самых сокровенных жизненных целей, Эйхман придумал небылицу о том, что будто бы он является отпрыском старинной немецкой семьи из Палестины. Тем самым он причисляет себя к гордым надменным потомкам ордена тамплиеров, крестоносцев, которые боролись за Святую землю. Эйхмана как предполагаемого знатока Палестины направляют на Ближний Восток со шпионской миссией, суть которой заключалась в изучении возможностей создания в этом уголке земли немецкой разведывательной сети. Но когда летом 1937 г. он с полными карманами денег для подкупа будущих агентов прибыл в Палестину, англичане, которые в то время владели мандатом на эту землю, сумели сорвать с него дешевую маску обычного путешественника и угадать истинную цель его приезда, приказав ему покинуть страну.
Никогда не поддаваясь разочарованию от временных неудач, обладая даром умения превращать неудачу в успех, Эйхман проследовал в Каир, где встретился с главным муфтием Иерусалима Хай Амином эль-Хуссейни, одним из самых ярых ненавистников еврейства во всем мире.
Позже эль-Хуссейни, узнав о том, что 4 тысячам еврейских детей удалось избежать уготовленной им смерти, назовет это «невыносимым скандалом». Он тепло принял Эйхмана, и вместе они принялись строить планы уничтожения евреев, проживавших на арабских землях. В декабре он посетил Германию, где был принят Гитлером, и вместе с Эйхманом совершил поездку по концентрационным лагерям.