Зачисление в рейхсвер. Служба попеременно в Генеральном штабе и в войсках. (В качестве командира роты в 5-м пехотном полку и в качестве командира егерского батальона 4-го пехотного полка.)
С февраля 1934 года – начальник штаба 3-го военного округа, г. Берлин.
Июль 1935 года – начальник 1-го (оперативного) управления Генерального штаба Сухопутных сил.
Октябрь 1936 года – генерал-майор и первый обер-квартирмейстер Генерального штаба. Одновременно первый помощник и заместитель начальника Генерального штаба генерала Бека.
Февраль 1938 года – в связи с отставкой генерал-полковника барона фон Фрича снят с должности в ОКХ и переведен в Лигниц (Легница) на должность командира 18-й дивизии. Участие в оккупации Судетской области в качестве начальника штаба одной из армий.
Мобилизация в 1939 году – начальник штаба группы армий «Юг» (командующий – фон Рундштедт). Участие в Польской кампании.
Октябрь 1939 года – переведен с генерал-полковником фон Рундштедтом на ту же должность в группу армий «А» на Западный фронт. Борьба за план наступления, который был принят Гитлером после того, как фон Манштейн был снят ОКХ со своего поста начальника штаба группы армий и назначен командиром пехотного корпуса. В этой должности – участник кампании на Западе в 1940 году. Рыцарский крест.
Участие в подготовительных мероприятиях к вторжению, проводимых на побережье Ла-Манша.
Март 1941 года – командир 56-го танкового корпуса: танковый рейд из Восточной Пруссии через Двинск (Даугавпилс) до озера Ильмень. Сентябрь 1941 года – командующий 11-й армией. Завоевание Крыма. Зимняя кампания с целью окончательного овладения Крымом. Весна 1942 года – уничтожение советских армий, высадившихся в районе г. Керчь. Затем – завоевание Севастополя, фельдмаршал.
Август 1942 года – задание захватить Ленинград, которое, однако, не удается осуществить. Уничтожение одной советской армии у Ладожского озера.
Ноябрь 1942 года, после прорыва Советов по обе стороны Сталинграда и окончания окружения 6-й армии – командующий группой армий «Дон» (позднее – «Юг»). Безуспешная попытка освободить 6-ю армию. Затем – тяжелые бои по спасению немецкого южного крыла, которые завершаются в марте 1943 года победой под Харьковом. «Дубовые листья» (к Рыцарскому кресту. – Прим. ред.).
Лето 1943 года. Участие в последнем немецком наступлении на востоке: операция «Цитадель». После неудачи руководил тяжелыми оборонительными боями группы армий «Юг»; отступление за Днепр. Продолжение оборонительных боев до польской границы. В конце марта 1944 года – отстранение от командования группой армий как следствие расхождений с Гитлером по вопросам ведения войны на востоке с одновременным награждением «Мечами» к Рыцарскому кресту. Далее не был использован по службе.