Впоследствии над гробницей Девы Марии был сооружен храм, и предание приписывает его возведение равноапостольной царице Елене. Об этом, в частности, написано у Никифора Каллиста, основывавшегося на житии святой царицы и приложенном к нему списке построенных ею храмов. Уверенно можно утверждать, что храм существовал во времена правления императрицы Пульхерии, так как он упоминался в сказаниях о перенесении во Влахернскую церковь Константинополя Святой раки. В начале VII века храм был разорен персами, однако они разрушили только его верхнюю часть, а не пещерное отделение. Персы считали, что Богоматерь — персиянка, так как на поклонение рожденному Ею Божественному Младенцу приходили волхвы-персы.[8] Храм впоследствии, видимо, был восстановлен, так как уже патриарх Со-фроний около 630 года воспевал светлый храм Гефсиманский, в котором находилось место погребения Пресвятой Богородицы.
Греческие хронисты (например Феофан) сообщают, что халиф Абдул-Мелек хотел использовать колонны этого храма для укрепления мечети в Мекке. Однако намерение его осталось неисполненным по ходатайству влиятельных и приближенных ко двору христиан.
Храм Успения Пресвятой Богородицы весь находится под землей, снаружи остаются только двери в него. Вход в гробницу — с левой стороны от Масличной горы, которая возвышается к востоку от Иерусалима и представляет собой известковый хребет, идущий с севера на юг. На небольшой площадке, на три ступени ниже поверхности земли, и расположен сводчатый вход с железной дверью, за которой начинается крутой спуск в 50 ступенек, высеченных в скале. На двадцатой ступеньке, в левом углублении стены находится могила святого Иосифа Обручника, в правом — гробницы праведных Иоакима и Анны. В конце лестницы устроен придел святого Николая, а чуть дальше к востоку открывается подземная галерея, в которой мерцают огоньки множества лампад и свечей.
Посреди галереи отдельно стоит пещера в виде небольшой часовни, высеченной в скале. Внутри часовни, в углублении стены, виден высеченный в скале выступ. Это и есть погребальное ложе, на котором покоилось пречистое тело Богоматери. Сейчас оно не видно, так как покрыто белой мраморной плитой, к которой с благоговением прикладываются паломники. Стены погребальной пещеры увешаны шелковыми и парчовыми тканями, а мраморная плита над камнем во время богослужений служит престолом. Перед ним поставлен иконостас, по обе стороны которого расположены двери.
Пещерный храм Успения Богородицы принадлежит православным грекам, но и армяне имеют здесь свой престол, который находится перед иконостасом. Имеют престол и копты, он находится у западной стены часовни. Здесь же у коптов находится источник святой воды и крипта, некогда служившая входом в храм. Турки тоже почитают Пресвятую Богородицу, поэтому у них здесь устроена небольшая молельня.