23 ноября Гудериан доложил командующему группой «Центр» фельдмаршалу фон Боку «о том, что 2-я танковая армия находится в весьма тяжелом состоянии и что ее войска, особенно пехотные части, чрезвычайно утомлены; я указал на отсутствие зимнего обмундирования, на плохую работу службы тыла, незначительное количество танков и орудий, а также на угрозу сильно вытянутому восточному флангу со стороны свежих сил противника, прибывающих с Дальнего Востока в район Рязань, Коломна».
Предложение Гудериана о переходе к обороне было отвергнуто. Генерал пришел к выводу, что Браухич, Кейтель и Гитлер являются «сторонниками продолжения наступления».
5-6 декабря началось контрнаступление Красной Армии под Москвой. До этого Красная Армия перешла в контрнаступление в районе Тихвина и Ростова-на-Дону. Попытка повторить молниеносную военную кампанию, подобную тем, что до сих пор с успехом проводились в Западной Европе, окончилась неудачей. Гудериан с горечью писал: «Наступление на Москву провалилось. Все жертвы и усилия наших доблестных войск оказались напрасными». Не желая признавать собственных ошибок, генерал писал: «Мы потерпели серьезное поражение, которое из-за упрямства верховного командования повело в ближайшие недели к роковым последствиям».
8 декабря Гитлер подписал директиву № 39 о переходе к обороне на всем советско-германском фронте. Директива предписывала удерживать в руках районы, имеющие оперативно-стратегическое и военно-хозяйственное значение. Однако приказ было невозможно выполнить. Германские войска отступали на запад.
16 декабря Гитлер, вызвав Гудериана к телефону, «потребовал стойко держаться, запретив отходить, пообещал перебросить по воздуху пополнение». Однако отступление армии Гудериана продолжалось.
Отступали и другие армии.
Гитлер винил в отступлении генералов. Он вызвал Гудериана к себе и в течение пяти часов вел с ним спор, убеждая генерала в возможности удержать позиции под Москвой. Гудериан возражал, а потому 26 декабря он был отправлен в отставку.
В течение зимы 1941–1942 гг. были смещены со своих постов командующие всех трех групп германских войск («Север», «Центр» и «Юг») – фельдмаршал фон Лееб, фельдмаршал фон Бок и фельдмаршала фон Рундштедт. В отставку были отправлены генералы Гёпнер, Гейер, Гот, Ферстер, Кюблер. При этом генерал Гёпнер был лишен права носить мундир и ордена, утратил права на пенсию и служебную квартиру. Генерал-полковник Штраус объявил себя больным. Генерал фон Шпонек, командовавший войсками на Керченском полуострове, был уволен за отступление своих войск, затем лишен звания, арестован и расстрелян. В отставку был отправлен главнокомандующий сухопутными войсками фон Браухич. Его место занял сам Гитлер.