Но кто поверит, что офицеры и генералы рейхсвера не хотели войны? Однако такие, как Клейст, нужны были нацистам. Будучи в отставке, он не сомневался, что еще понадобится Гитлеру, когда тот перейдет от слов к делу. Так и случилось, в августе Эвальда вернули в строй и назначили командиром 22-го армейского корпуса, представлявшего собой танковую группу. Потом он в составе 14-й армии Листа будет участвовать в Польской кампании, а дальше — пошло-поехало: Львов, Сомм, Бордо, бросок к Ла-Маншу, завершение образования трагичного для англичан Дюнкерского котла, Житомир, Херсон, Никополь, Запорожье, Днепропетровск, Ростов-на-Дону, Кубань и Крым. Его войска участвовали в нападении в 1941 году на Югославию и подавлении там партизанского движения.
На территории подконтрольной ему группы армий «А» Клейст проводил целенаправленную политику по привлечению на сторону вермахта представителей различных народов СССР. В его войсках, по некоторым данным, состояло более 800 тысяч человек (карачаевцы, кабардинцы, осетины, ингуши, азербайджанцы, калмыки и другие, а также казаки). Танки Клейста рвались к кавказской нефти, и им удалось дойти до Терека. По мере военных неудач росло его недовольство тем, как ставка Гитлера осуществляла руководство операциями на фронте. Получая приказы непосредственно из ставки, Клейст не раз убеждался в отсутствии полководческих талантов у фюрера. Дважды, в сентябре 1943 года и в марте 1944 года, он просил Гитлера разрешить эвакуацию из Крыма отрезанных от суши немецких войск. Тот отказал, но спустя месяц был вынужден принять такое решение. Однако упущенное время обернулось слишком большими потерями…
После оставления Крыма и отступления на Южный Буг 30 марта 1944 года личный «Кондор» фюрера приземлился на аэродроме Клейста в Тирасполе, чтобы забрать главнокомандующего группой армий «А». Затем он полетел во Львов за Эрихом фон Манштейном. Вечером того же дня Гитлер вручил им по Рыцарскому кресту с дубовыми листьями и мечами и освободил их от должностей, а в апреле группа армий «А» была переименована в группу «Южная Украина». Итак, Гитлер отправил второй раз генерал-фельдмаршала Клейста в отставку, а вместо него назначил генерал-полковника Шернера.
На этой прощальной встрече Гитлер сказал, что одобряет все сделанное ими, но дни специалистов по тактике на Восточном фронте подошли к концу. Теперь ему требовались командующие, обладавшие способностью заставить свои войска сопротивляться до последней возможности.
Клейст воспользовался этой встречей, чтобы посоветовать фюреру заключить мир со Сталиным. Гитлер заверил его, что в этом нет никакой надобности, так как Советская армия уже почти истощила свои силы.