Синтез старой классической и новой христианской культуры происходил и в архитектуре. Когда христиане были малочисленной гонимой сектой, они тайно встречались в домах. Слово «церковь», по-гречески «экклесия», в оригинале означало «собрание», то есть сборище христиан. Теперь же, когда христиан становилось все больше, потребовались огромные здания, чтобы вмещать их всех по воскресеньям. Возник вопрос, как должны выглядеть эти здания, потому что никакой христианской традиции архитектуры, на которую можно было бы опереться, еще не существовало. Были только языческие храмы, но христиане хотели, чтобы их церкви отличались от них. Так, община Газы воспротивилась предложению сделать Марнейон христианской церковью: он должен был быть уничтожен, место очищено, и на нем возведен новый храм. Христиане обратились к другому классическому типу строения – базиликам, большим общественным зданиям, которые существовали во всех городах империи: там проходили судебные разбирательства или аудиенции наместника. Это были довольно простые строения прямоугольной формы, с плоским потолком и двускатной крышей, иногда с боковыми проходами. Их преимущество заключалось в том, что они обеспечивали обширное крытое пространство, где многочисленные присутствующие могли все видеть и слышать. Одна из самых ранних христианских базилик была построена в 320-е годы в Риме над местом захоронения апостола Петра и посвящена этому святому. Другая была возведена императором Константином в Иерусалиме над гробницей, где якобы был захоронен после распятия Христос, и стала известна как храм Гроба Господня. Вслед за этим появились многие другие здания, включая собор Святой Софии в Константинополе, который был освящен в 360 году.
Но если размер и форма церквей теперь были утверждены, то оставался другой вопрос: надо ли их украшать и если да, то как именно? Едва ли можно было оставить стены голыми, ведь здание должно было быть ярким и красивым, чтобы отражать ту высокую цель, ради которой его построили. Поэтому ранние базилики были украшены пасторальными сценками, изображениями деревьев и растений. Вскоре, однако, нашлись люди, которые стали говорить, что изображения должны быть не нейтральными, а духовными или поучительными. На них могут быть мученики, которые отдали свою жизнь за веру во время гонений, или сюжеты из Евангелия, демонстрирующие деяния Христа, его проповедь, распятие и воскресение. Эта идея, однако, вызвала сильное сопротивление в некоторых кругах: она напоминала идолопоклонство и статуи богов, которые украшали языческие храмы. Во время паломничества в Палестину в 394 году Епифаний, епископ кипрского города Саламина, пришел в ужас, когда увидел изображение Христа на занавесе в церкви. Он сорвал этот занавес и покинул храм. Но на том дело не кончилось. Община ополчилась против Епифания и потребовала, раз ему не нравится их занавес, приобрести вместо него другой.