В течение семнадцати лет Гелену так и не пришлось командовать самостоятельной войсковой частью. Поэтому, когда фон Манштейн 1 апреля 1938 года принял командование 18-й пехотной дивизией, Гелен был назначен командиром 8-й батареи 18-го артиллерийского полка, размещенного в Лигнице и подчиненного той же дивизии. Гаубичная батарея была самой большой линейной частью, которой когда-либо довелось командовать будущему генералу Гелену.
Во время сентябрьской кампании 1939 года майор Гелен впервые воевал против поляков как первый офицер штаба 213-й дивизии. Друзья из главного штаба сухопутных войск не забыли о нем и назначили его сначала офицером для связи При штабе 16-й армии генерала Буша, а затем при группах танковых войск Гота и Гудериана. Несколько позже Рейнгард Гелен оказался уже на должности адъютанта начальника имперского генерального штаба генерал-полковника Гальдера. Затем Гелен откомандировывается в оперативный отдел, руководимый тогда полковником Хойзингером, который теперь в чине генерала занимается восстановлением вермахта.
В оперативном отделе Гелену доверили руководить восточной группой. Это был период быстрого продвижения гитлеровских бронированных орд по территории Советского Союза — быстрого, но закончившегося еще более быстрым разгромом.
В главной ставке Гитлера генералы еще радостно потирали руки и безустанно повторяли слова бывшего капрала, а ныне своего верховного вожака: «Враг разгромлен, повален и уже никогда больше не поднимется…»
Разумеется, в пору легких триумфов гитлеровцы не придавали слишком большого значения отделу генштаба, который носил странное название «Иностранные армии — Восток». В мирное время здесь главным образом использовались секретные материалы, доставленные ведомством адмирала Канариса. Его «Амт-Аусланд-Абвер» в главном командовании вермахта (ОКВ) собирал данные об армиях стран, находящихся к востоку от «третьего рейха», в особенности о Советском Союзе и Польше. Отдел «Иностранные армии — Восток» обрабатывал донесения гитлеровских военных атташе, публикации в книгах и журналах, картографические издания, промышленную статистику и прочую документацию. Было это скорее занятие, входящее в область штабного анализа, а не разведки.
Во время войны отдел этот получал данные о Советском Союзе через офицеров отдела «1-ц» (разрабатывающих положение противника), находящихся в штабах гитлеровских дивизий, корпусов, армий и групп армий. Маньяк Гитлер не придавал особенного значения работе этого отдела, которым заведывал некий полковник Кинцель. Как известно, «фюрер» полагался главным образом на свою «гениальную» интуицию.