وقال عليه السلام "لا تشد الرحال إلا إلى ثلاثة مساجد: المسجد الحرام والمسجد الأقصى ومسجدي هذا" فتوجه المسلمون صوب بيت المقدس واتخذوا منه قبلة لهم حوالي 16 شهرا. فكرة البناء من المعلوم أن للمسجد الأقصى المبارك الأثر العميق في نفوس المسلمين، فكانت الدولة الإسلامية في أوج عظمتها، وكان من باب أولى أن تواكب هذه الانتصارات أعمال عمرانية تكون شاهدة على عظمة الإسلام وعز المسلمين فتخلّد ذكر من قام بالبناء رغم الأقاويل المتباينة حول الأهداف التي تم البناء من أجلها. حضر الخليفة عبد الملك بن مروان شخصيا إلى بيت المقدس، فأرسل بكتبه إلى الأمصار يستشير رعيته فيما يصنع، فكانت إجابتهم "نرى رأي أمير المؤمنين موافقا ورشيدا إن شاء الله يتم له ما نوى من بناء بيته وصخرته ومسجده ويجري ذلك على يديه ويجعله تذكرة له ولمن مضى من سلفه".

فكلّف اثنين ممن يثق بهما، وهما أبا المقدام رجاء بن حيوة من بيسان ويزيد بن سلام من بيت المقدس. فأوكل إليهما ببناء قبة السلسلة الموجودة الآن قبالة الصخرة فأعجبته وأمر بالبناء على هيئتها حيث أوقف عليها خراج مصر لسبع سنوات. فاض عن بناء قبة الصخرة حوالي مائة ألف دينار فأرسلوا للخليفة عبد الملك بن مروان أن ينفقها فيما يحب.

فكتب إليهما: قد أمرت لكما بجائزة لما وليتما من عمارة البيت الشريف، فكتبا إليه: نحن أولى أن نزده من حلي نسائنا فضلا عن أموالنا، فاصرفها في أحب الأشياء إليك، فأخبرهم بأن تسبك وتفرغ على القبة. أما عن دوافع بناء القبة فيدعي بعض المؤرخين أن الخليفة الأموي قام ببنائها بدافع سياسي حتى يحرم ابن الزبير من الامتياز الذي بين يديه بمكة والمدينة ويحوّل أنظار أهل الشام إلى بيت المقدس ويحرمه كذلك من الإيراد المالي من الحجاج. وكأنه بهذا الإجراء أراد أن يفرض عليه حصارا اقتصاديا.

وهناك رأي آخر بأن البناء كان دينيا محضا وذلك بأن يكون للمسلمين مسجد يضاهي في جماله ما لكنائس النصارى من سحر وجمال في بيت المقدس والشام. تحفة فنية حافظت قبة الصخرة على بنائها من ناحية معمارية وفنية