В июле 1940 года полк получил 17-й мотоциклетный батальон и был направлен в Эльзас, где проходил подготовку к высадке в Великобритании. Впоследствии, усиленный артиллерийскими и зенитными частями, полк «Гроссдойчланд» принимал участие во вторжении в Югославию, где в том числе захватил белградскую радиостанцию. После спешной переброски на север полк принял участие во вторжении в СССР, переправившись через Буг вместе с 7-й танковой дивизией. Он вел бои под Белостоком и Минском (24 июня— 6 июля), преследовал советские войска, отступавшие к Днепру (7–10 июля) и участвовал в прорыве советской обороны по Днепру, где бои шли особенно ожесточенно и нередко доходили до рукопашной (11–14 июля). Полк «Гроссдойчланд» также принимал участие в боях под Смоленском (14–20 июля) и в штурме позиций на Десне (18–23 июля). Он вел оборонительные бои под Ельней (24 июля — 22 августа) и на Десне (18–30 августа), после чего принял участие в сражениях под Киевом и последующем преследовании советских войск (сентябрь 1941 года). Затем полк «Гроссдойчланд» участвовал в боях восточнее города Ромны (26 сентября — 3 октября), в двойном сражении на окружение под Вязьмой и Брянском (10–20 октября) и в последующей попытке наступления на Москву. Он вел упорные бои в районе Тулы с 21 октября по 5 декабря. Когда 6 декабря началось зимнее наступление советских войск, элитный полк понес тяжелые потери, а его мотоциклетный батальон был практически истреблен под Тулой, в районе Колодезной. На 6 января 1942 года потери «Гроссдойчланда» на Востоке составляли 900 человек убитыми, 3056 ранеными и 114 пропавшими без вести, что составляло более половины его численности. Однако полк остался на фронте и понес столь тяжелые потери в боях под Орлом, что его II батальон пришлось расформировать.
Тем временем было сформировано еще несколько батальонов «Гроссдойчланд» и было принято решение развернуть моторизованный полк «Гроссдойчланд» в полноценную моторизованную дивизию. Новая дивизия была сформирована 3 марта 1942 года на полигоне Вандерн под Берлином. Солдаты и офицеры дивизии должны были обладать отличным здоровьем (так, например, не допускалось использование личным составом дивизии очков), быть в отменной физической форме, не иметь криминального прошлого и быть политически благонадежными. Как и ее предшественники, дивизия комплектовалась отборными добровольцами со всей Германии. Неофициально дивизию называли «охраной германского народа». До самого конца войны дивизия «Гроссдойчланд» хорошо проявляла себя в боях. Тем временем в апреле 1942 года старый полк «Гроссдойчланд» был снят с фронта и присоединился к остальной дивизии на Днепре, в Речице.