بنى المسجد فى الموضع الذى خطب فيه الرسول صلى الله عليه وسلم، حجة الوداع، وذلك أول عهد الخلافة العباسية، في منتصف القرن الثاني الهجرى، وهو يقع إلى الغرب من المشعر، وجزء من غرب المسجد فى وادى عرنة، وهو وادى من أودية مكة المكرمة الذى الرسول صلى الله عليه وسلم عن الوقوف فيه، حيث قال المصطفى صلى الله عليه وسلم : "... وقفت ها هنا وعرفات كلها موقف إلا بطن عرنة .. " ، وبطن وادي عرنة ليس من عرفة، ولكنه قريب منه.