3-я танковая дивизия вторглась в Советский Союз 22 июня 1941 года, дерзко захватив пограничный Коденьский мост. Под командованием будущего фельдмаршала Вальтера Моделя дивизия участвовала в разгроме войск, окруженных в районе Белостока и Минска, в окружении советских войск под Смоленском и в боях на переправах через Днепр, после чего была направлена на южный участок фронта, где при ее содействии в ловушку под Киевом попали несколько армий, насчитывавших в общей сложности более 750 тыс. человек. Позднее она приняла участие в наступлении на Москву и в боях под Тулой, когда Гудериан безуспешно пытался обойти советскую столицу с юга. Во время советского зимнего наступления 1941/42 года она действовала в качестве «пожарной бригады», сражаясь под Курском и Орлом, а в марте 1942 года обороняла Харьков от массированных атак советских войск. Тем же летом дивизия принимала участие в сражениях на Северном Кавказе и понесла тяжелые потери под Моздоком. В январе 1943 года, когда советские войска стали угрожать Ростову-на-Дону, 3-я танковая дивизия эвакуировалась с Кубани, переправившись по льду Азовского моря. Она сражалась под Курском и Белгородом в июле и понесла тяжелые потери в боях под Харьковом осенью 1943 года. Также она участвовала в боях в Днепровской излучине (сентябрь 1943 г. — январь 1944 г.), где она вновь проявила себя, и в боях в районе Черкасс и Умани зимой 1943/44 года. Она была окружена под Кировоградом 5 января 1944 года, но сумела вырваться 10 января (через пробитую брешь за ней вышли еще четыре дивизии). Оставаясь в строю, несмотря на потери, 3-я танковая дивизия сражалась под Киевом и участвовала в оборонительных боях при отступлении через Украину и Восточную Польшу. Она пробилась из окружения в Румынии, принимала участие в боях в Венгрии и закончила войну, сражаясь в Штирии (Австрия) на южном участке Восточного фронта. После смерти Гитлера 30 апреля 1945 года, но до фактической капитуляции Германии дивизия сумела оторваться от советских войск и уйти на запад, чтобы избежать советского плена. Этот маневр ей удался, и дивизия сдалась американцам в Энее.
В числе командиров дивизии были генерал-лейтенант Эрнст Фессман (принял командование 1 октября 1935 года), полковник Фридрих Кюн (июнь 1937 года), Фессман (июль 1937 года), генерал-лейтенант барон Лео Гейр фон Швеппенбург (12 октября 1937 года), генерал-майор Хорст Штумпф (7 октября 1939 года), вновь Гейр (31 октября 1939 года), вновь Штумпф (15 февраля 1940 года), вновь генерал-майор Кюн (сентябрь 1940 года), генерал-лейтенант Модель (13 ноября 1940 года), генерал-майор (генерал-лейтенант) Герман Брейт (2 октября 1941 года), полковник барон Курт фон Либенштейн (1 сентября 1942 года), генерал-майор (генерал-лейтенант) Франц Вестхофен (1 октября 1942 года), генерал-майор Фриц Байерляйн (25 октября 1943 года), полковник Рудольф Ланг (5 января 1944 года), генерал-лейтенант Вильгельм Филипс (25 мая 1944 года), полковник (генерал-майор) Вильгельм Зет (1 января 1945 года) и полковник Фолькмар Шене (19 апреля 1945 года).