30 марта 1944 года после оставления его войсками Крыма и эвакуации на Южный Буг Клейст был вызван в ставку Гитлера, награжден знаком «Дубовые листья» к ранее полученному рыцарскому кресту и… отправлен в отставку. В апреле того же года группа армий «А» была переименована в группу армий «Южная Украина». Командующим ее Гитлер назначил своего нового фаворита Ф. Шернера.
После покушения на фюрера 20 июля 1944 года Клейст попадает под подозрение скорее не как участник заговора, а как человек, знавший о существовании радикальной оппозиции Гитлеру, и вскоре арестовывается гестапо. Но следствие не нашло прямых улик, и его освободили. Хотя, наверное, как указывал американский психиатр, участник Нюрнбергского процесса Л. Голденсон, — гестапо могло держать в запаснике слова, сказанные Клейстом Гитлеру на личной встрече 1 декабря 1943 года:
«Мой фюрер, сложите с себя полномочия верховного главнокомандующего сухопутными силами. Занимайтесь внешней и внутренней политикой!»
И другие: «Думаю, причиной моей отправки домой тогда стало то, что я всегда откровенно высказывал Гитлеру свое мнение… Я думаю, что Гитлер был скорее пациентом психиатра, чем генералом».
Но вся эта «смелость» Клейста была обнародована только после капитуляции Германии на суде в Нюрнберге. Однако «отмазаться» этому арийцу не удалось. Те злодеяния его подчиненных против мирного населения на Украине — под Дубно, Луцком и Ровно в начале войны и на Кубани и в Крыму в ее конце, чинимые по непосредственным приказам соответственно генерал-полковника, а затем фельдмаршала Клейста, красноречиво доказывали степень личного участия в них фашистского военачальника.
О военных преступлениях Клейста свидетельствовал акт № 39 от 9 января 1943 года, составленный в Нальчике Кабардино-Балкарской АССР при активном участии сотрудников военной контрразведки:
«После оккупации территории Эльбрусского района немецко-фашистские войска по указанию немецкого фельдмаршала фон Клейста проводили массовое истребление мирных жителей Эльбрусского района Кабардино-Балкарской АССР…
После изгнания немецко-фашистских войск из территории Эльбрусского района и города Нальчика частями Красной Армии и населением было обнаружено за городом Нальчиком недалеко от аэродрома, в противотанковом рву, кладбище, где трупы не всегда закапывались. Родственники и знакомые, жители города Нальчика и селений Эльбрусского района нашли на этом месте замученными, истерзанными и убитыми более 600 человек…
Перед расстрелом гитлеровцы подвергали своих жертв страшным пыткам: отрезали части тела, выкалывали глаза, вырывали волосы и т. д. В противотанковом рву найдено 50 человек расстрелянных военнопленных и раненых красноармейцев, возле которых находились костыли и гипсовые повязки…