Когда фактическую власть над Иерусалимом захватили Шимон и его люди, все шансы на мир были утеряны. К этому историческому моменту следует отнести известный рассказ о том, как рабби Йоханан бен-Закай хитростью покинул город, добрался до римского лагеря и предсказал, что Веспасиан станет императором (см. ниже, в разделе 6.3). Когда предсказание сбылось, Веспасиан удовлетворил просьбу рабби Йоханана и даровал ему право создать академию в городе Явне.
Расстановка сил в Иерусалиме накануне осады сложилась следующим образом. Шимон бар-Гиора контролировал Верхний город и большую часть Нижнего, Йоханан из Гуш-Халав - Храмовую гору и крепость Антония, а третья партия - Первосвященников - во главе с Элазаром бен-Шимоном находилась на самой территории Храма. Общая численность войск, оборонявших Иерусалим, не превышала 25 тысяч человек. Даже в это тяжелое время, когда уже началась осада города, внутренние распри не прекратились. Во время праздника Песах Элазар открыл храмовый двор, чтобы дать возможность всем находящимся в Иерусалиме принести пасхальную жертву. Этим немедленно воспользовался Йоханан из Гуш-Халав: во главе вооруженного отряда ворвался на территорию Храма и перебил противников. Теперь в городе остались всего две партии, но и они сумели договориться о координации действий лишь после первой атаки римлян.
В результате нескольких боев вне городских стен римляне взя-ли третью внешнюю стену города, а 17 тамуза - вторую стену. Еще до этого они окружили Иерусалим дополнительной стеной, чтобы осажденные ниоткуда не могли получить продовольствие, которого в городе почти не осталось после сожжения Шимоном бар-Гиорой продовольственных складов. В конце концов римлянам удалось взять укрепление Антония, и десятого ава Храм был сожжен. Все защитники Храма погибли. Йоханан и Шимон сумели укрыться в Верхнем городе. Однако силы защитников города были на исходе. Они едва волочили ноги от голода. Для римлян же продолжение осады было делом не слишком обременительным. Солдаты ворвались в Верхний город. Большинство защитников пало. Остальные были захвачены в плен.
После падения Иерусалима пламя восстания еще не было окончательно погашено. Последние укрепления восставших пали только к 74 году.
Иосиф Флавий в книге "Иудейская война" пишет, что Тит не хотел разрушать Храм, что это сделал простой римский солдат в пылу битвы. Тит якобы немедленно приказал потушить пожар, но уже ничего нельзя было сделать. Не имеет ни малейшего значения, насколько этот рассказ соответствует истине. Рим не разрешил евреям восстановить здание Храма.