20-я танковая дивизия приняла боевое крещение на центральном направлении Восточного фронта, участвовала в окружении советских войск под Минском, 17 июля штурмовала Уллу, внезапным ударом захватила Витебск (10 июля), вела бои на окружение советских войск под Смоленском и отразила несколько контрударов с целью деблокировать окруженных, а также дошла до Западной Двины. В сентябре дивизия вела бои второстепенного значения под Вязьмой восточнее Смоленска, пока основная масса танковых дивизий окружала советские армии под Киевом. Позднее, в том же году, дивизия форсировала Истру и Нару, обратив в бегство советскую бригаду и захватив плацдарм для наступления на Москву. Она была остановлена менее чем в 100 км от советской столицы. В декабре 1941 года 20-я танковая дивизия ощутила на себе всю мощь советского зимнего наступления и несколько раз едва избегала окружения. К февралю 1942 года дивизия была оттеснена на позиции восточнее линии Десна — Ока, где ей удалось удержаться, несмотря на многочисленные атаки противника. В марте, когда в боевых действиях наступила пауза, вызванная распутицей, дивизия была отведена в Брянск для отдыха, пополнения и переформирования.
Ввиду высоких потерь I и II батальоны 21-го танкового полка, II батальон 112-го моторизованного полка и 20-й мотоциклетный батальон пришлось расформировать, а остатки распределить по другим частям дивизии. III батальон 21-го танкового полка был переименован в 21-й танковый батальон, а штаб 21-го танкового полка был переименован в штаб 21-й танковой бригады, хотя в его распоряжении и оставался всего один танковый батальон (штаб танковой бригады в 1943 году был направлен в Норвегию для формирования штаба танковой дивизии «Норвегия», а штаба 20-й моторизованной бригады дивизия лишилась в марте 1943 года — из него был сформирован штаб 20-й велосипедной бригады). Между тем с 1942 по 1944 год дивизия оставалась на центральном участке фронта и принимала участие в оборонительных боях 1942 года (в основном в районе Орла), в упреждающем ударе на Ливны против советской 13-й армии (город был взят 20-й танковой дивизией 10 мая 1942 года) и в штурме Воронежа в середине июля того же года. В начале 1943 года дивизия была втянута в тяжелые бои южнее Орла, где ей удалось остановить крупное советское наступление. Позднее дивизия участвовала в наступлении под Курском (на северном фасе Курской дуги) и в сражениях под Гжатском, Орлом, Торопцом, Брянском, Витебском, Невелем, Бобруйском и Холмом. В июне 1944 года дивизия была окружена в результате советского наступления, и ей пришлось пробиваться, несмотря на сокрушительные потери.