После того как римляне отступили от стен Иерусалима, ликующие защитники города поверили в то, что повторилось чудо спасения от египтян и что Иегова каким-то непостижимым образом спас свое святилище от врагов избранного им народа. Исполненные веры в то, что божественное вмешательство даровало им победу, евреи преследовали неприятеля, и Иосиф Флавий сообщает, что им удалось уничтожить не менее шести тысяч солдат в отступающих колоннах римлян, прежде чем легион бежал за границы Палестины.
Это поражение в сочетании с неудачами в Британии и Армении серьезно подорвало престиж империи, и евреи, по всей видимости, посчитали, что война выиграна. Однако весной 67 года в Палестину прибыл новый противник по имени Веспасиан с тремя легионами солдат и многочисленными вспомогательными соединениями. Он намеревался опустошить сначала все провинции Иудеи, а затем атаковать Иерусалим. Задача оказалась гораздо труднее, чем предполагали римляне, потому что евреи укрывались в укрепленных городах, где они сражались с фанатичным упорством, которое компенсировало дисциплину и военное искусство римлян. Они нанесли римлянам огромные потери, но в конечном счете враг брал один город за другим, а их оставшиеся в живых защитники и население безжалостно уничтожались .[26] К концу первого года войны Габара, Иотапата, Иоппия, Тарихея, Гисхала, Гамала и Иоппия лежали в развалинах, а римляне установили контроль над Галилеей, Самарией и морским побережьем на западе Иудеи. На следующий год Веспасиан придерживался той же тактики, в результате чего пали города Антипатрида, Лидда, Эммаус, Иерихон и Адида. Римлянам осталось взять крепости Иродион, Махерон, Масада и сам Иерусалим.
В этот момент война внезапно приостановилась. Веспасиан был провозглашен императором, и евреи снова увидели в этом божественное вмешательство. Тем не менее весной 70 года, накануне праздника Пасхи, сын императора Тит собрал войска под стенами Иерусалима, готовясь к решающему штурму. Его армия была гораздо сильнее всех тех, с которыми приходилось сталкиваться евреям: четыре легиона и огромное число вспомогательных отрядов.
Осада города считается одной из самых ужасных в истории войн. Военачальники евреев Иоанн из Гисхалы и Симон из Геразы, а также римлянин Тит были искусными полководцами. Город невозможно было взять одним штурмом, потому что он был разделен на три укрепленных района — крепость Антония, дворец Ирода и сам Храм. Это означало, что после преодоления внешних стен города сражение продолжится в условиях ограниченного пространства, где партизанская тактика евреев гораздо эффективнее действий боевых порядков римлян. В конечном итоге защитников города удалось потеснить, и в их руках остался один Храм — воплощение всего самого святого, что было у евреев. Они верили, что язычники могут попасть только во внешний двор Храма, но святилище останется в неприкосновенности, потому что Иегова не позволит осквернить святое место.