Kureyşliler Kabe’nin inşaata ihtiyacı olduğunu düşünüyor ancak buna karar veremiyorlardı. Kabe kutsal bir yapıydı ve ona müdahale etmekten çekiniyorlardı. Çatısı yoktu ve hırsızlar çatıdan girip değerli malları çalmışlardı. Duvarlar iyice dayanıksız olmuştu. Sonunda anlaşıp inşaata karar verdiler, malzeme ise  Cidde yakınlarında karaya vurmuş bir Bizans gemisindeki inşaat malzemelerinden sağlanacaktı.

Duvarlar yıkıldıktan sonra temelde yeşil ve deve hörgücü gibi sıralanmış taşlar gördüler. Bu taşları yıkmaya kalktıkları sırada bir yer sarsıntısı oldu ve bunu bir uyarı olarak kabul edip vazgeçtiler. Yeni duvarlar bu temel üzerine yapılacaktı.

Hacer’ül-Esved’in bulunduğu köşede Süryanice bir yazı bulunduğu rivayet edilir: “ Ben Allah’ım ve Bekke’nin Rabbiyim. Bekke’yi, göğü ve yeri yarattığım, Ay’a ve Güneş’e şekil verdiğim  ve Güneş’in etrafına dokunulmaz yedi meleği yerleştirdiğim gün yarattım. O insanlarına süt ve su ile yardım eden iki tepesi varoldukça varolmaya devam edecektir.” Bir yazı da kapının yanında Hz. İbrahim’in ayak izinin bulunduğu kayanın altında bulundu: “Mekke, Tanrı’nın kutsal evidir. Onun sürekliliği üç yönden gelir. Onun yakınındaki insanlar onu ilk kirletenler olmasın.”

Duvarlar yükselmeye başladı. Tüm kabileler sırayla çalışıyorlardı. Ancak sıra Hacer’ül-Esved’in yerleştirilmesine geldiğinde ciddi tartışmalar çıktı. Birkaç gün süren anlaşmazlıktan sonra yaşlı bir adam bir hakem seçilmesini önerdi ve hakem alana ilk girecek kişi olacaktı. Bu kişi bir süredir Mekke’de olmayan Muhammed (s.a.v) oldu. Herkes el-Emin’in hakemliğini kabul edeceğini açıkladı. Olayı öğrenince bir kumaş getirilmesini istedi ve taşı kumaşa yerleştirdi. Tüm kabile ileri gelenleri kumaşın bir ucundan tutarak taşı kaldırdılar ve O da taşı kendi elleriyle yerine koydu. Bundan sonra inşaat devam etti.