Однако ситуация на северной границе оставалась угрожающей. Врагом империи там было не унитарное государство, как у Сасанидов, а множество отдельных «варварских» племен. В отличие от персов, они не стремились расширить свои территории. Они пересекали границу ради грабежа или, еще чаще, спасаясь от другого племени, которое вытесняло их на юг или на запад. Императоры давно поняли, что победоносными сражениями и заключением договоров тут ничего не сделаешь. Военные действия и уничтожение варваров были крайней мерой, но не годились в качестве долгосрочного решения проблемы: рано или поздно на место одних племен приходили другие. Поэтому византийцы начали пытаться интегрировать их в империю. В 280 году император Проб поселил на Балканах племя бастарнов, пришедшее из-за Дуная, и этот эксперимент оказался удачным. Людские ресурсы всегда были в дефиците, а поселенцам вменялось в обязанность предоставлять, когда нужно, войска. Таким образом они становились foederati – федератами, или союзниками, и укрепляли оборону границ империи. Их также можно было селить на пустовавших землях, которые они начинали возделывать, производя излишки продукции и платя налоги. Как бы уничижительно ни отзывался Зосима о полководческих способностях Константина, тот действовал в отношении варварской угрозы во многом так же, как и его предшественники. Никаких подтверждений рассказа Зосимы о том, как Константин якобы бежал при столкновении с варварами, нет. Наоборот, в 320-х годах он успешно обезопасил дунайскую границу, построив мост через реку, чтобы его войска могли вести боевые действия на территории готов. А в 332 году племя, известное как тервинги (вестготы), было вынуждено сдаться и заключить соглашение с империей, пообещав отправлять 40-тысячное войско на помощь императору, когда потребуется.
Но Зосима осуждал не только предполагаемую трусость Константина. Он считал, что, предпочтя мирную христианскую религию мужественной и воинственной вере предков и допустив во власть вместо мужчин-воинов скопцов, Константин подорвал боевой дух, на котором основывалось величие Рима. Однако, если разобраться, и это было не так. В то время как некоторые христиане, такие как Василий Кесарийский, считали любое убийство, даже ради защиты своей родины, греховным, другой видный христианский деятель, Афанасий Александрийский, писал, что убивать на войне достойно похвалы, и во славу тех, кто так поступает, должно воздвигать монументы. Кроме того, нет никаких свидетельств того, что христиане отказывались служить в императорской армии. Уже в 160-х годах христиане сражались на дунайской границе с племенем маркоманов, а в 314 году Арльский собор постановил, что для христиан вполне допустимо вступать в войско. К концу IV века они должны были составлять значительную часть армии. Кроме того, начал зарождаться новый боевой дух, во многом более мощный, чем прежний. Поскольку империя была в основном христианской, а ее враги – персы и варвары – придерживались иной веры, защищать римские границы означало защищать Церковь. Эта идея отражалась в военных регалиях и знаменах. Евсевий утверждает, что в бой против вестготов Константин шел с тем самым крестом, который якобы явился ему в 312 году. Знамена были украшены христограммой – монограммой из греческих букв, символизирующей имя Христа, которая также была и на монетах. Так что на самом деле миссия по защите христианской империи считалась достойной похвалы, и почти любое средство достижения победы было оправданно. В 358 году христианский император Констанций II, сын Константина, напал на сарматов и куади – племена, которые прежде были союзниками римлян, а теперь совершали набеги на Балканы. Когда воины были побеждены в бою, имперские войска ворвались в их деревни, окружили безоружных людей и тех, кого не убили, потом продали в рабство.