Taki stan rzeczy trwał całe 370 lat, a więc prawie cztery stulecia. W 1009 r. kapryśny, okrutny i chory umysłowo kalif Hakem, którego można by nazwać Kaligulą islamu, ogłosił się wcieleniem Najwyższego Bóstwa, wszczął prześladowania Żydów i chrześcijan, narzucał podwładnym kult swojej osoby i burząc znienawidzone budowle sakralne zrównał z ziemią również Bazylikę Grobu. Przy tej sposobności uległa doszczętnej zagładzie pieczara grobowa, tak że właściwie nic po niej nie pozostało. Reperkusje tego wydarzenia w Europie były przerażające i zgoła nieoczekiwane. Struchlała społeczność chrześcijańska, pod wpływem krążącej plotki, że do tego świętokradztwa namówili Hakema jego tajni doradcy pochodzenia żydowskiego, wszczęła w gettach żydowskich pogrom, jeden z tych pogromów, które tak szpecą karty europejskiej cywilizacji.
Hakema zamordowano z polecenia jego własnej siostry. Następni kalifowie wrócili do tradycyjnej polityki tolerancji wobec religii chrześcijańskiej i pozwolili bizantyjczykom odbudować zrujnowaną świątynię. W 1048 r. odbyła się ponownie jej konsekracja. Nie stało jednak funduszów, by przy wrócić jej dawną świetność. Był to już tylko zespół paru niepozornych kapliczek; jedynie rotundę starano się odbudować w jej dawnym kształcie architektonicznym. Ale mury jej nie obejmowały już dawnej autentycznej pieczary grobowej z czasów cesarza Konstantyna. Nie pozostał z niej prawie ani jeden kamień. Była to już tylko podrobiona kopia.
W 1099 r. krzyżowcy podczas pierwszej swej wyprawy wtargnęli po krwawym oblężeniu do Jerozolimy. Z furią siekli i mordowali na prawo i lewo bezbronną ludność miasta. Krwawa masakra trwała trzy doby. Ulice zalegały zwały trupów. Pod ich mieczem zginęło podobno aż siedemdziesiąt tysięcy muzułmanów. Nie lepszy los spotkał Żydów. Zapędzono ich do synagogi i puszczono z dymem. Meczet został splądrowany i zdemolowany. Łupem najeźdźców padło między innymi siedemdziesiąt waz i lamp ze złota i srebra. Wśród ogólnego rozbestwienia tylko jeden z wodzów Raymond zachował postawę rozwagi i rycerskości: załodze cytadeli, która bohatersko broniła się do końca, ofiarował honorowe warunki kapitulacji i pozwolił jej opuścić miasto z bronią w ręku.
Grób Jezusa Chrystusa był uwolniony, ślub złożony przez krzyżowców został spełniony. W radosnym i pobożnym uniesieniu rycerstwo obmyło się z krwi, przebrało w szaty odświętne i w procesji ruszyło do pieczary. Ci srodzy rycerze krzyża szli przed siebie jak urzeczeni, wśród modłów i pieśni pobożnych. Na widok rotundy grobowej padli na twarz, całowali ziemię i płakali, podczas gdy zmaltretowane miasto dymiło jeszcze świeżo rozlaną krwią i pożogą.
Panujący odtąd królowie Franków postanowili świątynię odbudować w jej dawnej okazałości. Ale budowa wlokła się przez 50 lat, ukończono ją dopiero w 1149 r. Ta właśnie świątynia zachowała się do naszych czasów, liczy więc obecnie 800 lat. W tym czasie była nieraz poważnie zagrożona. W 1187 r. sułtan Egiptu Saladyn odbił Jerozolimę dla islamu, na szczęście jednak był bardziej tolerancyjny niż swego czasu krzyżowcy i rozkazał oszczędzić świątynię, zadowalając się zburzeniem jedynie dzwonnicy. W latach 1545, 1927 i 1937 jej posadami wstrząsnęły trzęsienia ziemi, nie wyrządziły jednak w budowli większych szkód. W 1808 r. ogarnął ją gwałtowny pożar, również bez poważniejszych skutków.
Pieczara, jak powiedzieliśmy, jest całkowicie sztucznie zrekonstruowana, niewiele więc, poza umiejscowieniem, ma wspólnego z grobem otoczonym kultem za czasów cesarza Konstantyna. Czyż jednak ów pierwotny, wykuty w skale grób był naprawdę tym, w którym za sprawą Józefa z Arymatei trzy dni spoczywało ciało Jezusa? Wielu historyków i badaczy Biblii wyraziło co do tego poważne wątpliwości. Na poparcie swego stanowiska wysuwają szereg trudnych do odparcia argumentów. Przytacza je wielki francuski orientalista Andre Parrot w swojej książce Golgota i kościół Świętego Grobu, chociaż on sam, należy to lojalnie zaznaczyć, nie wypowiada się ostatecznie w sprawie tej kontrowersji, wychodząc z założenia, że tradycja topograficznego położenia grobu nie mogła być wyssana z palca, że musiała mieć jakieś konkretne uzasadnienie.
Ale już wówczas, gdy bazylikę konsekrowano, owa tradycja nie u wszystkich musiała znaleźć wiarę, skoro św. Cyryl Jerozolimski w 350 r. uznał za wskazane bronić autentyczności grobu przed sceptykami, przy czym głównym jego argumentem na jej poparcie był werset (2,14) zacytowany w Pieśni nad pieśniami.
Wystąpienie św. Cyryla świadczy, że wątpliwości co do grobu musiały być tak rozpowszechnione, że nie można było ich lekceważyć. I trudno się temu dziwić, jeśli uświadomimy sobie, że od chwili ukrzyżowania Jezusa aż do położenia kamienia węgielnego pod Bazylikę Grobu minęły prawie trzy stulecia, w czasach bardzo krótkiego przeciętnego życia człowieka – co najmniej dziesięć pokoleń. Nawet gdyby w tych latach Jerozolimy nie dotknęły wojny oraz inne kataklizmy, to i tak pamięć o topograficznym położeniu grobu Jezusa musiała być chyba dość niepewna.
Ale Jerozolima bynajmniej nie zaznała pokoju. Ciągłość tradycji, niezbędny warunek uchowania się takiej pamięci w kolejnych pokoleniach, gwałtownie się przerwała. Przecież w 70 r. Jerozolima została zdobyta przez Rzymian i zburzona, a podczas powstania Bar Kochby (131-134 r.) ostatecznie wymazana z powierzchni ziemi. Żydów i nielicznych chrześcijan, którzy ocaleli, zmuszono do pójścia na wygnanie i poniewierkę, bez prawa powrotu do rodzinnego miasta. Na miejscu nie pozostał nikt, kto mógłby świadczyć o grobie Jezusa.
Na gruzach dawnej stolicy judzkiej cesarz Hadrian założył typowo rzymskie miasto Aelia Capitolina. Forum postanowił umiejscowić tam, gdzie dawniej była Golgota. Ponieważ był to teren wyboisty, trzeba go było zniwelować. Podczas tych prac zasypano wówczas istniejące tam, powykuwane w skale groby żydowskie, nad nimi zaś wzniesiono publiczne gmachy okalające rynek.
Gdy przeto Konstantyn Wielki zarządził budowę bazyliki tam, gdzie rzekomo znajdował się grób Jezusa, to jest na Golgocie, trzeba było wydobyć ją spod zwałów gruzów i ziemi. I wówczas odkryto tam nie jeden grób, lecz całą nekropolię wykutą w skale. Tego rodzaju groby żydowskie pod względem wewnętrznego układu komór i sposobu ich zamykania były do siebie podobne, a jednak zidentyfikowano grób Jezusa. Jak wobec braku świadków oraz innych danych źródłowych udało się to przeprowadzić?