Прежде всего от скалы была отделена пещера погребения, чтобы ее можно было целиком включить в воздвигнутую круглую часовню. Эту часовню, которая по-гречески называлась «Анастазис» (Воскресение), окружали 12 колонн (по числу апостолов). От нее на восток шел собственно храм, перед которым был четырехугольный двор с крытыми ходами, а во двор вела лестница с колоннами. Все это было украшено мрамором, блестело золотом и драгоценными камнями. Но этот первый храм простоял менее 300 лет, так как в 614 году он был, как и сам город, разрушен армией персидского царя-огнепоклонника Хозроя. Однако уже в следующем году, уступая просьбам своей жены-христианки, он разрешил на месте разрушенного храма выстроить новый. Бедность после разорительных набегов персов не позволяла воссоздать храм в его первоначальном великолепном виде, и потому были возведены четыре отдельных храма.
Над пещерой погребения Иисуса Христа вновь была возведена круглая часовня, как это было при императоре Константине, над Голгофой и местом обретения Животворящего Креста Господня — два небольших храма, а четвертый храм — во имя Пресвятой Богородицы — возвышался приблизительно там, где находился Камень миропомазания. В таком виде застали эти святые места арабы, захватившие Иерусалим. Халиф Омар не разрушил христианские храмы, но его наследники если и не разрушали их, то постоянно грабили, особенно в IX–X веках. Крестоносцы, завладевшие Иерусалимом в XII веке, передали все христианские храмы католическому духовенству. За 50 лет своего владения городом крестоносцы подвели стоявшие по отдельности храмы под общую крышу, и в таком виде он сохранился до нашего времени, хотя еще не раз подвергался разрушениям.
Храм Гроба Господня, длина которого более 80 метров, окружен множеством пристроек, потому что все христианские конфессии стремились быть как можно ближе к нему. Его окружала старая православная патриархия, с севера примыкали латинский и коптский монастыри, к последнему с востока храма прилегал абиссинский. Между ним и площадкой перед входными воротами располагался православный монастырь Святого Авраамия. Сверху храм покрывают два купола: один находится над часовней Гроба Господня, другой — над православным приделом Воскресения.
Внутри храма тоже имеется много отдельных частей, приделов, церквей, часовен, лестниц, галерей, келий и т. д. Главные части храма — Ротонда (круглый храм Гроба Господня) и Католикон (храм Воскресения) — соединяются царской аркой.
В храм Гроба Господня ведет сначала большой темный притвор, освещаемый только открытыми дверями и небольшим окошечком над ними. Напротив дверей паломник видит первую святыню — Камень миропомазания, представляющий собой низкую плиту около двух метров длиной. На этот камень, теперь покрытый мрамором, было положено пречистое тело Иисуса Христа, снятое с креста, чтобы умастить его перед погребением благовониями. Вокруг Камня миропомазания стоят свечи в больших подсвечниках, а над ним висят зажженные лампады. Раньше паломники покупали себе в размер этого камня полотно, возлагали его на камень, потом омывали в Иордани, увозили домой и хранили до своего смертного часа, а потом полотно это служило им саваном. Слева от Камня миропомазания обозначено место, где стояла Пресвятая Богородица во время распятия своего божественного сына. На стене позади Камня изображено снятие с Креста пречистого тела Спасителя. Эта стена, устроенная между двумя столбами, отделяет паперть от церкви Вознесения.