В октябре 1942 г., накануне Сталинградской наступательной операции, Верховный Главнокомандующий вновь вернул генерал-полковника Голикова на должность командующего войсками Воронежского фронта. Фронт сыграл основную роль в осуществлении к 3 марта 1943 г. Воронежско-Харьковской стратегической наступательной операции. По размаху и достигнутым результатам это была одна из крупнейших операций в годы войны. Всего за 50 суток наши войска продвинулись на глубину 360—520 км, освободили от оккупантов значительную территорию и ряд крупных городов — Воронеж, Курск, Белгород и Харьков. Было разгромлено 26 вражеских дивизий.
Однако вслед за тем Голикова ждал серьезный провал. Генерал, развивая наступление, переоценил возможности вверенных ему войск. А разведка фронта просмотрела сосредоточение значительных танковых сил немцев, которые нанесли сильный контрудар по ослабленным войскам.
По собственному признанию Филиппа Ивановича, «ошибка в оценке противника заключалась в том, что мы рассматривали массовое движение моторизованных сил противника на Полтаву как его отход. Между тем противник отводил главные силы своего танкового корпуса СС в район Полтавы для того, чтобы начать отсюда свой контрудар»[27]. В результате советские войска вынуждены были не только оставить Харьков, а затем Белгород, но и с большими потерями отойти назад на 100—150 км.
Голиков приказом Сталина был отстранен от командования войсками Воронежского фронта и направлен в распоряжение Ставки ВГК. В Москве он получил должность заместителя наркома обороны по кадрам. Но даже столь высокое назначение не избавило его от ощущения несправедливости — а именно так генерал воспринимал снятие с должности командующего.
В феврале 1944 г. Филипп Иванович обратился к Сталину с письмом, в котором прозвучала настойчивая просьба о направлении его на фронтовую командную работу. «Стремление на фронт у меня неистребимо», «для меня это призвание», — писал он Верховному Главнокомандующему. Свое отстранение от должности комфронтом Голиков отчасти связывал с отношением к нему представителя Ставки ВГК маршала Жукова, которое казалось ему предвзятым. «Я не хочу и не могу выйти из Отечественной войны на положении снятого с фронта командира», — писал он, заверяя, что его командный потенциал не исчерпан, а «способность по-серьезному бить немцев мною доказана на деле»[28]. К слову, представители Ставки Г.К. Жуков и A.M. Василевский, командированные в марте 1943 г. на Воронежский фронт, на самом деле рекомендовали не снять Голикова, а переместить его на должность командующего вновь создаваемым Орловским фронтом