Сыновья Александры Гиркан и Аристобул враждовали из-за права наследовать престол. Аристобул был честолюбив и смел, Гиркан же не обладал лидерскими качествами. Тем не менее, Александра назначила своим преемником Гиркана, чьим советником служил отец Ирода, Антипатр. Вражда братьев закончилась временным примирением, они совместно начали управлять. Антипатр повел выгодную ему хитрую и тонкую политическую игру, возможную только потому, что безвольный Гиркан полностью полагался на советника. Антипатр убедил Гиркана бороться за свое законное право наследовать правление единолично и обратиться за поддержкой к римскому императору Помпею. Однако Аристобул не успокаивался, он поднял восстание в Иудее. Римляне вступили в Иерусалим, внутри города разразилась кровавая бойня между сторонниками Гиркана и Аристобула. Сторонники Гиркана, которых поддерживала римская армия, одержали победу. Сторонники же Аристобула заперлись в Храме, началась трехмесячная осада.
В 63 году до н. э. вокруг Храма развернулась очередная битва. Римляне наконец ворвались в Храм, и римский император Помпей, не знакомый с местными обычаями, вошел туда, куда мог ступить только первосвященник. В особом, окруженном ореолом святости помещении, называемом Святая Святых, обитала Шхина — Божественное Присутствие. Святая Святых Храма располагалась над «камнем мироздания»: «Всевышний кинул камень в море хаоса, и с этого начал существование мир». На этом месте состоялось и жертвоприношение Ицхака, сына Авраама. В Торе говорится, что Божественное Присутствие в виде светящегося столпа сопровождало евреев с момента Исхода. Затем оно сделалось невидимым, но для всех было ощутимо связано с Ковчегом Завета, который стоял в Первом Храме, в Святая Святых. Над ним, под крыльями вырезанных из масличного дерева херувимов, и находилось место Божественного Присутствия. Ковчег Завета исчез после разрушения Первого Храма, однако существует предание, что он надежно спрятан и будет обнаружен после постройки Третьего Храма. Считалось, что над «камнем мироздания» в наши дни находится сооружение, называемое мечетью Омара. Недалеко от этого здания израильские археологи вели раскопки, вызвавшие возмущение мусульманского мира. Но эти раскопки указывают с большой вероятностью, что Храм и его святилище были в другом месте.
Свидетели писали, что Помпей тут же лишился чувств. Поэтому Помпей не тронул ни одной святыни, а через несколько дней велел произвести очищение Храма. Помпей перекроил границы, в результате он урезал страну до традиционной иудейской центральной части, чтобы Иудейское царство впредь никому не угрожало и не досаждало Риму своими распрями. В его понимании, иудеи были трудным, непокорным и отсталым племенем, их завоевания губительно сказывались на культуре покоренных ими народов. Подчиненные Риму греки занимали ведущее место в культурной жизни Римской империи, а евреи считались приверженцами темных восточных суеверий. Владения Гиркана стали ничтожны, он сохранил титул первосвященника, но лишился царского звания и теперь назывался всего лишь этнархом — высшим князем. В 57 году до н. э. Габиний разделил Иудею на пять административных округов с центрами в Иерусалиме, Гадаре, Амафунте, Иерихоне и галилейском Сепфорисе. Это удручало Антипатра, но он предпочел не вступать в конфронтацию с римлянами: силы были неравные. Лучше уж пусть будет национальная автономия, чем прямое правление Рима.