کسانی که قصد ورود به مکه معظمه و بیت الله الحرام را دارند چه ساکن و چه مسافر باشند، بدون بستن احرام نمی‌توانند به این شهرمقدس وارد شوند. به نقاطی که حجاج در آن محرم می‌شوند، میقات گویند وبه تناسب مسیر ورود حجاج، شش میقات وجود دارد که مسجد شجره یکی از آنهاست.
پیامبر اکرم در سه سفر عمره و یک سفر حج تمتع در میقات شجره محرم شدند. رسول اکرم پس از اقامه دو رکعت نماز دراین مسجد، احرام بسته و می‌فرمود:: ‹‹ لبیک، اللهم لبیک، لبیک لا شریک لک لبیک، ان الحمد و النعمة لک و الملک، لاشریک لک لبیک››.
روایت شده، که رسول خدا نخستین بار، هنگام انجام حج، زیر درختی در این مکان فرود آمد که در سال‌های بعد در آن محل مسجدی ساخته شد.
آن حضرت در این مسجد به سمت ستون وسط نماز می‌خوانده است و این همان مکان درختی بود که ایشان قبلاً کنار آن نماز می‌گذارده است.
‹‹زین الدین الاستدار›› در سال ۹۶۱ ه. ق. بنای مسجد را باز سازی و اطراف آن دیواری بزرگ کشید که تا پایان دوره عثمانی همچنان پا برجا بود. وی مأذنه گوشه شمال غربی آن را نیز بازسازی کرد و به سبب اینکه مکان محراب اصلی مشخص نبود، محراب دیگری در وسط دیوار قبله قرار داد که شاید مکان اصلی محراب باشد.
طول این مسجد از جنوب تا شمال ۲۵ متر از شرق به غرب نیز به همین مقدار بوده است. در سال‌های اخیر در دوران سعودی این مسجد به طرز زیبایی بازسازی شده و مساحت آن به ۸۸۰۰۰ متر مربع رسیده است.
