يعد باب الرحمة من الأبواب المميزة في المسجد الأقصى بمبناه الكبير الواسع، وهو يقع في السور الشرقي للمسجد الأقصى المبارك داخل مبنى مرتفع ينزل إليه بدرجات من المسجد الأقصى، وهو باب قديم وضخم يتكون من بوابتين متلاصقتين باب الرحمة جنوبا والتوبة شمالا ويبلغ ارتفاعه 11.5م، وسمي بالرحمة نسبة إلى مقبرة الرحمة الملاصقة له، والموجود فيها قبور الصحابيين شدّاد بن أوس وعبادة بن الصامت رضي الله عنهما.
يسميه الغربيون الباب الذهبي (Golden Gate) لشدة جماله. ويرجح علماء الآثار أن بناء هذا الباب يعود الى الفترة الأموية، ويقال إن الإمام الغزالي رحمه الله اعتكف في زاويته المقامة أعلى باب الرحمة عندما أقام في بيت المقدس وكان يدرس في المسجد الأقصى وفيها أنهى كتابه القيم (إحياء علوم الدين)، وهذا الباب مغلق بأمر صلاح الدين الأيوبي، عندما فتح بيت المقدس لحمايتها والمسجد الأقصى من اعتداءات الصليبيين في المستقبل.