В конце ноября 1941 года Ростов был взят. За этот этап военных действий «Зепп» Дитрих получил в награду дубовые ветви к Рыцарскому кресту. Однако его часть потеряла огромное количество техники и личного состава. В конце 1942 года «Лейбштандарт СС Адольф Гитлер» получил новое пополнение. Теперь подразделение именовалось бронетанковой гренадерской дивизией СС.
После повторного взятия Харькова и накануне реализации операции «Цитадель» было принято решение, что «Лейбштандарт» и бронетанково-гренадерская дивизия СС «Гитлерюгенд» образуют 1-й танковый корпус СС. Как известно, в результате героического сопротивления советских войск под Курском эта кампания для гитлеровских войск была провалена, как и вообще планы совершить блицкриг.
Й. Дитрих упорно оборонялся в Нормандии и успел выйти из Фалезского котла прежде, чем союзники замкнули кольцо окружения. Сам «Зепп» при этом едва не попал в руки британского военного патруля.
Однако армия понесла серьезные потери от превосходящих сил союзников, и Дитриха направили в Германию для организации новой 6-й танковой армии, которая должная была провести контрнаступление в Арденнах. Дитрих выступал против этого плана, считая его невыполнимым. Тем не менее он попытался наступать. Но каких-либо успехов достичь не удалось. Затем он был переброшен на восток, где должен был руководить контрнаступлением на озере Балатон. Здесь его силы были разбиты советскими войсками, которые к тому времени обладали неоспоримым преимуществом.
С этим периодом связана интересная легенда. Разозленный неудачей, которую потерпели элитные войска, Гитлер отдал приказ, лишавший 1, 2, 3 и 9-ю танковые дивизии СС, входившие в 6-ю танковую армию, нарукавных лент. Дитрих ответил на это следующим образом: он и офицеры наполнили собственными медалями ночной горшок, перевязали его лентой штандарта СС «Гёц фон Берлихинген» и отправили посылку Гитлеру в Берлин. Это было не чем иным, как намеком на фразу из одноименной пьесы Гете. Швабский рыцарь говорит епископу Бамбергскому буквально следующее: «К Его Императорскому Величеству я, как обычно, отношусь с подобающим уважением. Но сейчас скажи ему, что он может поцеловать меня в задницу!» Реакция фюрера на данную выходку неизвестна, как и то, действительно ли этот случай имел место.
В начале апреля 1945 года «Зепп» Дитрих был направлен в Вену, чтобы любой ценой удержать австрийскую столицу, на которую наступали войска РККА. Будучи уверенным в провале, Дитрих мрачно шутил: «Мы называем себя 6-й танковой армией, потому что у нас осталось всего шесть танков».