Роковую роль в истории Храма сыграла Иудейская война 66—73 годов, которая смирила гордыню непокорных Риму иудеев. 70-й стал годом падения Иерусалима и годом гибели Второго Храма Иерусалимского. 10 августа, в тот же самый день, когда был разрушен Храм Соломона, запылал и Второй Храм. Он горел в течение 10 дней, а к сентябрю весь Иерусалим был превращен в руины, а Храмовая Гора была распахана. Было пленено почти 100 000 жителей, а погибших от меча, голода и всего плененных за время войны, по свидетельству Иосифа Флавия, насчитывалось около 1 миллиона 100 тысяч. Менора и алтарь из разрушенного Храма по приказу Тита были отправлены в Рим. Разрушение Иерусалима и сожжение Храма положило начало рассеянию евреев по всему миру.
Спустя 66 лет римский император Адриан в построенной на руинах Иерусалима колонии Элиа Капитолина на священной горе установил храм Юпитера и собственную статую, обращенную лицом на восток.
Все дальнейшие попытки евреев возродить Храм Господень потерпели крушение. Даже официальное разрешение императора Юлиана Отступника, данное на возведение нового Храма в 362 году, не смогло изменить предопределенной ему участи — землетрясения и пожары безжалостно уничтожали дело рук его строителей…
Второй Храм был вдвое ниже Первого, всего 60 локтей в высоту, то есть с 10-этажное здание — таково было повеление царя Кира, позволившего евреям восстановить Храм. Он был возведен не на том же самом фундаменте, что Первый, а на 35 — 50 локтей дальше от центра к северо-западу.
Интересно, что Второй Храм перекрывал своим сводом пролет длиной 35 метров, и это за 1 000 лет до изобретения подобного типа перекрытия римлянами. К тому же в главной башне Храма существовало еще три больших арки. Для отделки Храма использовались, так же как и в Первом Храме, кипарис и кедр. Святая Святых была целиком выстроена из ливанского кедра. Алтарь Второго Храма был возведен на основании алтаря Первого, но в отличие от него располагался не в центре внутреннего двора, а был несколько смещен к югу, открывая вид на Святилище.
Весной 70-го года римский военачальник Тит, сын императора Веспасиана, подошел со своим войском к городу и осадил его. Долгих 5 месяцев длилось отчаянное сопротивление его защитников, но силы были слишком неравные, да и голод косил ежедневно сотни и сотни жителей. Улицы Иерусалима заполнили горы трупов.
Так евреи лишились своей святыни, места, где был Дом Господа на Земле. В первый раз они были наказаны за грехи идолопоклонничества, кровосмешения и кровопролития, во второй — за беспричинную междоусобную вражду. Талмудическая традиция говорит, что когда Храм был разрушен, все Небесные Врата, кроме одних, Ворот Слез, закрылись, а Западная стена, оставшаяся от Второго Иерусалимского Храма, получила название Стена Плача, так как слезы всех евреев, оплакивающих свой Храм, проливаются здесь. Существует предание и о том, что во время возведения Второго Храма Западную стену строили бедняки, которые вложили в нее весь свой труд и всю свою душу. И что при разрушении Храма с небес спустились ангелы и распростерли над этой стеной свои крылья, произнеся: «Эта стена, труд бедняков, никогда не будет разрушена».