لكل مسجد في المدينة المنورة قصة، فهي أول عاصمة إسلامية وسيدة مدن الأرض ومنها مسجد الغمامة الذي يقع في الجهة الغربية الجنوبية للمسجد النبوي الشريف، وعلى بعد (500م) من باب السلام، وكان هذا المكان آخر المواضع التي صلى بها الرسول صلى الله عليه وآله صلاة العيد، وسمي بالغمامة لما يقال أن غمامة حجبت الشمس عن رسول الله صلى الله عليه واله وسلم عند صلاته.

وكان رسول الله صلى الله عليه وسلم يصلي فيه صلاة العيدين وصلاة الاستسقاء، لذلك سمي بالمصلى أو، مصلى العيد، وأطلق عليه العامة اسم: الغمامة.

بني المسجد في ولاية عمر بن عبد العزيز رضي الله عنه على المدينة أي ما بين عام 86 هـ - 93 هـ ، ثم جدده السلطان حسن بن محمد بن قلاون الصالحي قبل عام 761هـ، ثم أجريت له إصلاحات في عهد السلطان إينال عام 861هـ، قام بعدها السلطان عبد المجيد الأول بتجديده تجديداً كاملاً ظل إلى عصرنا الحالي عدا بعض الإصلاحات في عهد السلطان عبد الحميد وبعض الإصلاحات في العهد السعودي.

من ينظر إلى هذا المسجد من بعيد ويرى مآذنه يظنه مسجد الرسول صلى الله عليه وسلم لكثرة مآذنه وارتفاعها. 

  في مدخل المسجد ترى لوحة خضراء جميلة كتب عليها بخط جميل: مسجد الغمامة، ويتميز هذا المسجد بقبابه الكثيرة الجميلة.

أما أقواسه الخارجية؛ فإنها تحفة معمارية قلَّ نظيرها، بنيت بالحجارة الغامقة اللون تفصل بينها خطوط بيضاء.، أما في الداخل، فالأقواس الجميلة، توحي بروعة الفن الهندسي الذي صممها واليد الصناع التي نفذتها.