Дмитрий Карбышев, однако, был непреклонен. Его ответ был однозначен: «Мои убеждения не выпадают вместе с зубами от недостатка витаминов в лагерном рационе. Я солдат и остаюсь верен своему долгу. А он запрещает мне работать на ту страну, которая находится в состоянии войны с моей Родиной».
Только тогда немцы поняли, что завербовать Карбышева им однозначно не удастся.
В документах Главного инженерного управления гитлеровской армии появилась следующая фраза: «Этот крупнейший советский фортификатор, кадровый офицер старой русской армии, человек, которому перевалило за шестьдесят лет, оказался фанатически преданным идее верности воинскому долгу и патриотизму. Карбышева можно считать безнадежным в смысле использования у нас в качестве специалиста военно-инженерного дела».
Дмитрий Карбышев, которому на момент пленения было больше 60 лет, прошёл через настоящий ад. Вот список лагерей, через которые он прошёл: «Шталаг-324» у польского города Острув-Мазовецки, офицерский лагерь в Замостье, «Офлаг XIII-Д» в Хаммельбурге, тюрьма гестапо в Берлине, лагерь на пересыльном пункте РОА в Бреслау, Нюрнберг, лагерь уничтожения Флоссенбург, лагерь смерти Майданек, Освенцим-Биркенау, Заксенхаузен и Маутхаузен.
Дмитрий Михайлович до самой смерти не терял бодрости духа. По воспоминаниям одного офицера, который был с Карбышевым в Освенциме, он встретил Дмитрия Михайловича в команде, занимавшейся очисткой выгребных ям. Узнав Карбышева, офицер задал глупый вопрос: «Как чувствуете себя в Освенциме?». Дмитрий Михайлович поклонился и ответил: «Хорошо, бодро, как в Майданеке».
Когда Карбышев работал в команде по заготовке могильных плит, то обмолвился, что эта работа доставляет ему истинное удовольствие: «Чем больше мы должны делать надгробий, тем лучше, значит, идут дела у наших на фронте».
Погиб генерал Карбышев 18 февраля 1945 года. Вместе с другими узниками (около 500 человек) его вывели на плац и стали обливать холодной водой на морозе. Звание Героя Советского Союза было присвоено генералу Дмитрию Карбышеву посмертно (28 февраля 1948 года).