Но когда Хорсту исполнилось четырнадцать, в его жизни произошел резкий поворот. Во время общешкольных соревнований по легкой атлетике он — в своих школьных трусах и босиком — пробежал 1500 метров, намного выйдя из пяти минут. Потрясающий результат для мальчика, который никогда не занимался бегом. Оказалось, что за соревнованиями наблюдал тренер национальной федерации. Он посоветовал Хорсту начать тренироваться и убедил руководство школы создать для талантливого мальчика особые условия.
После этого Хорст возродился к жизни. Освобожденный от скучных школьных занятий физкультурой, он проводил чуть ли не целые дни, бегая по полям и горам. Ему нравилось находиться в одиночестве, вдали от других мальчиков. Он никогда не был более счастлив. Довольно скоро он стал одним из лучших бегунов-юниоров страны. В школе, где его недавно презирали и третировали, теперь им гордились, бывшие обидчики теперь заискивали перед ним. Он вступил в гитлерюгенд — нацистскую молодежную организацию. В 1936 году он получил персональное приглашение посетить Олимпийские игры в Берлине. Он видел, как американец Джесси Оуэнс ошеломил весь мир, выиграв четыре золотых медали. Он видел Адольфа Гитлера на приеме для активистов гитлерюгенда и даже удостоился чести пожать ему руку. Событие привело его в такой восторг, что он в тот же день позвонил домой и рассказал о нем матери. Эрих был очень горд. Сидя на трибуне, Хорст мечтал о том, чтобы скорее наступил 1944 год, когда он станет достаточно взрослым и достаточно быстрым и сможет выступить за команду Германии.
Война лишила его такой возможности.
В начале 1939 года он вступил в вермахт. Его отличная физическая подготовка и характер одинокого волка привлекли к нему внимание командования Fallschirmjager — парашютно-десантных войск. Он попал в школу парашютистов в Стендале и участвовал в воздушном десанте в Польшу в первый день войны. Затем он прыгал во Франции, на Крите и в России. К концу 1942-го он был награжден Рыцарским крестом.
Его карьера парашютиста завершилась в Париже. Как-то раз, поздним вечером он зашел в маленький бар, чтобы выпить. В заднем кабинете веселилась компания офицеров СС. Потягивая коньяк. Нойманн вдруг услышал оттуда женский крик. Француз, стоявший за стойкой, насмерть перепугался и даже не смог сдвинуться с места. А Нойманн решил выяснить, что там происходит. Распахнув дверь, он увидел на столе юную француженку, которую держали за руки и за ноги здоровенные эсэсовцы. Майор насиловал ее, а еще один офицер жестоко хлестал поясным ремнем. Нойманн влетел в комнату и нанес майору сокрушительный удар в лицо. Тот ударился виском об угол стола и, как выяснилось позже, так и умер, не приходя в сознание.