Сирийская армия разрушила Каабу в 683 г.; притом в священный для мусульман месяц мухаррам. Храмовое сооружение было отстроено заново халифом Зубайром, родственником Айши, любимой жены Пророка Мухаммеда.
Карматы не только захватили и ограбили Мекку, но и вывезли из нее в качестве трофея «святая святых» храма Кааба — Черный камень (928 г.). Вернуть святыню на место удалось лишь спустя 20 лет, при посредничестве магрибинцев.
Однажды храм обокрали. Случилось это в 605 году. В то время Кааба не была еще покрыта крышей. Ночью воры перелезли через стену и вынесли из храма накопленные там богатства. Ограбление Каабы было неслыханным святотатством. Ведь даже прислоняться к храму и то никто не осмеливался. Такое поведение расценивалось
арабами как проявление крайней неучтивости, более того, — презрения к храму. Осквернителя святыни надолго изгоняли из города. Поэтому ограбление Каабы было происшествием, из ряда вон выходящим, и не могло не шокировать жителей Мекки. Начались поиски грабителей. Часть похищенных сокровищ обнаружили в доме мекканца Дувейка. Наказание было строгим. По законам того времени ему отрубили кисть правой руки и на десять лет изгнали из города.
На протяжении многих веков хранителями Каабы были курайшиты, к которым принадлежал Пророк Мухаммед. Родоначальником их был араб по прозвищу Курайш (что значит «торговец»), ведущий свою родословную от Аднана, потомка Ноя. Примерно в 440 г. до н. э. он привел в долину Мекки своих родичей, построил так называемый торговый дом — для заключения торговых сделок и формирования торговых караванов. Один из его последователей, Кусай, изгнавший из Мекки хузаитов и утвердивший в городе абсолютную власть курайшитов (с монополией на поставку пилигримам воды и продовольствия), первым из хранителей Каабы решился на строительство вокруг святилища каменных жилищ; там стали селиться знатные курайшиты.
Дед Мухаммеда, бывший одно время хранителем ключей от Каабы, раскопал и восстановил колодец Замзам и изготовил для храма, как гласят легенды, добротную железную дверь.
В 603-605 гг. Каабу, которая сначала выгорела изнутри, а потом пострадала от селя, перестроили и впервые за историю существования храма покрыли плоской крышей. Непривычные для арабов «Скалистой Аравии» плотницкие работы выполнял нанятый мекканцами корабельный плотник, используя для этого купленные горожанами обломки византийского корабля, потерпевшего крушение вблизи Джидды. Почетную роль в работах по восстановлению поврежденных стен Каабы, разобранных до основания и затем возведенных вновь, сыграл тогда Мухаммед. Дело было так. Ко времени начала работ 35-летний Мухаммед имел уже среди соплеменников репутацию человека исключительно честного. Его не раз выбирали третейским судьей для разрешения споров и разногласий; и принимаемыми им решениями обе стороны всегда оставались довольны. Нравственные качества Мухаммеда были оценены соплеменниками по достоинству: его стали называть Аль-Амин («Справедливый» или «Заслуживающий доверия»). Когда ремонтные работы в храме близились к концу, возник спор из-за того, кто из курайшитов должен был быть удостоен чести водворить священный Черный камень на его традиционное место. Разрешить спор никак не удавалось. Работы были приостановлены. И тогда самый пожилой и всеми уважаемый курайшит, присутствовавший на собрании старейшин, созванному по этому случаю во дворе храма, предложил довериться решению третейского судьи, коим должен был стать первый из вошедших в ограду храма курайшитов. Им оказался Посланник Аллаха. Имея в виду не допустить возникновения ненужных обид и распрей среди соплеменников, Мухаммед поступил следующим образом. Он выбрал из среды курайшитов, из четырех главных колен племени, четверых всеми уважаемых мужчин. Взявшись за углы бедуинского плаща, они подняли Черный камень с земли, а сам Посланник, сняв святыню с плаща, поместил ее на прежнее место, проявив тем самым столь почитаемую племенами Аравии мудрость.