بُني المسجد في العصر الفاطمي عام ٥٤٩ هـ (١١٥٤ م) تحت إشراف الوزير الصالح طلائع بن رزيك. يضم المسجد ٣ أبواب من الرخام الأبيض تطل على خان الخليلي، وبابًا آخر بالقرب من القبة يُعرف بالباب الأخضر. سُمي المسجد بذلك وفقًا لروايات المؤرخين المصريين عن وجود رأس الحسين بن علي مدفونًا فيه. جُدد البناء في عهد عباس الأول والخديوي إسماعيل، ولم يبقَ من العصر الفاطمي في هذا المسجد إلا الباب الأخضر فقط. أما مئذنة المسجد فهي من عمل أبي القاسم السكري عام ٦٣٣ هـ (١٢٣٥ م). وبنى المهندس الإسلامي الشهير عبد الرحمن كتخدة القبة والجزء العلوي من مئذنة الباب الأخضر عام ١١٨٥ هـ (١٨٦١ م). وفي عام ١٨٩٣، أُنشئت غرفة صغيرة داخل المسجد تحتوي على بعض الآثار النبوية. تم ترميم المسجد وتطويره عامي ٢٠٢١-٢٠٢٢ بإجمالي قيمة.