Лагерное начальство, обеспокоенное сплочением военнопленных и их подпольной борьбой, в начале 1943 года стало небольшими группами отправлять пленных в разные стороны — кого в Нюрнберг, кого дальше, а кого в такие места, откуда возврата уже не было… Д. М. Карбышева перевезли в Берлин — в штаб инженерных войск. Здесь его посадили в настоящий каменный мешок, в котором над головой ярко горела электрическая лампа. Старый генерал потерял счет времени, сутки здесь не делились на дни и ночи, прогулок не было. Однажды Д. М. Карбышева вызвали к профессору Г. Раубенгеймеру, за научными трудами которого он постоянно следил до войны. Немецкий профессор снова предложил ему сотрудничать: его освободят из лагеря, он будет жить в Берлине и получать жалованье по чину. И Д. М. Карбышев снова отказался. Генерала отправили в лагерь военнопленных в Нюрнберг, где содержались узники из многих стран Европы. И в этом лагере Д. М. Карбышев сразу же включился в деятельность Комитета сопротивления фашизму. Перед членами организации стояла ответственная задача — связаться с иностранными рабочими, которых было очень много на военных заводах Нюрнбега, и организовать саботаж и диверсии. Несмотря на всю сложность, задания подпольного комитета выполнялись: так, например, на одном из заводов советский офицер вывел из строя стотонный пресс, на другом — взорвали склад боеприпасов, советские девушки подожгли в Нюрнберге больничную кассу…

Об антифашистской деятельности Д. М. Карбышева стало известно гестапо, и в первой половине июля 1943 года его перевели из лазарета в общелагерный блок 7-ц, оттуда бросили потом в одиночную камеру Нюрнбергской тюрьмы. Впоследствии в берлинской канцелярии вермахта был обнаружен документ, равносильный смертному приговору:

Этот крупный советский фортификатор, кадровый офицер старой русской армии; человек, которому перевалило за шестьдесят лет, оказался насквозь зараженным большевистским духом, фанатически преданным идее верности, воинскому долгу и патриотизму… Карбышева можно считать безнадежным в смысле использования его у нас в качестве специалиста военно-инженерного дела."

"На документе красным карандашом была нанесена резолюция: ""Направить в концлагерь Флоссенбург на каторжные работы. Не делать никаких скидок на звание и возраст"". В каторжный лагерь Д. М. Карбышева перевезли осенью 1943 года. Здесь на него надели полосатую одежду каторжника, на ноги — колодки и каждый день вместе с другими заключенными выводили на работу в каменоломни. Люди в полосатых одеждах таскали камни вручную или на парных носилках, над которыми склонялись их стриженые непокорные головы. Бодрость духа не покидала Д. М.