Родился 8 (21) декабря 1904 г. в уездном городе Александрия Херсонской губернии.
Маршал Советского Союза (1968 г.).
В Красной армии — с февраля 1920 г. После окончания Крымских кавалерийских курсов — командир взвода, начальник полковой школы, начальник штаба полка. С 1939 г., после окончания Военной академии им. М. В. Фрунзе, — начальник штаба, командир стрелковой дивизии (по февраль 1940 г.).
В годы Великой Отечественной войны — командир 65-й, с июля 1942 г. — 24-й гвардейской стрелковых дивизий, с августа 1943 г. — 63-го, с мая 1944 г. — 71-го, с января 1945 г. — 36-го гвардейского стрелковых корпусов.
После войны — командир 36-го гвардейского стрелкового корпуса (по июль 1946 г.), командующий армией (по июль 1955 г.), 1-й заместитель главнокомандующего Группой советских войск в Германии (по июль 1957 г.), командующий войсками Сибирского (по апрель 1960 г.), Киевского военных округов. С января 1965-го по октябрь 1969 г. — главнокомандующий Группой советских войск в Германии, по сентябрь 1976 г. — генеральный инспектор Группы генеральных инспекторов Министерства обороны СССР.
Дважды Герой Советского Союза (16 мая 1944 г., 19 апреля 1945 г.), награжден пятью орденами Ленина, орденом Октябрьской Революции, тремя орденами Красного Знамени, орденом Суворова 2-й степени, двумя орденами Кутузова 2-й степени, орденом Богдана Хмельницкого 1-й степени.
Кандидат в члены ЦК КПСС в 1961–1971 гг., депутат Верховного Совета СССР 6–7-го созывов.
Скончался 30 августа 1976 г. Похоронен в Москве у Кремлевской стены.