بنى جامع أحمد بن طولون سنة 263-265 هجرية الموافقة 876/877-879م، كان طولون أحد المماليك الأتراك الذين أهداهم عامل بخارى إلى الخليفة المأمون، فظل يترقى فى خدمة البلاط العباسى حتى بلغ مصاف الأمراء، ونشأ ابنه أحمد بن طولون محباً للعلم مشغوفاً به، فحفظ القرآن ودرس الفقه والحديث وأظهر من النجابة والحكمة ما ميزه على أترابه. فلما تقلد باكباك إمارة مصر من قبل الخليفة العباسى أنابه عنه فى ولايتها فقدم إليها سنة 254 هجرية (868م)، وكان من حظه أن وهبت مصر إلى حمية الأمير ماجور بعد وفاة باكباك فأقره على ولايتها. كانت ولاية أحمد بن طولون على مصر أول الأمر قاصرة على الفسطاط، أما أمر الخراج فكان موكولاً إلى ابن المدير فما زال بحسن سياسته يوسع فى نفوذه حتى شمل سلطانه مصر جميعها، وتولى أمر الخراج وامتد نفوذه إلى الشام وبرقة وأسس الدولة الطولونية التى حكمت مصر من سنة 254 إلى 292 هجرية (868 إلى 905م) وتوفى سنة 270 هجرية (884م)، وفى الواقع تعتبر شخصية أحمد بن طولون من الشخصيات الهامة فى تاريخ مصر الإسلامى، إذ تتمثل فيها النقلة التى انتقلتها مصر من ولاية تابعة للخلافة العباسية إلى دولة ذات استقلال ذاتى. بعد أن أتم أحمد بن طولون بناء قصره عند سفح المقطم وأنشأ الميدان أمامه وبعد أن فرغ من تأسيس مدينة القطائع شيد جامعة العظيم على جبل يشكر، فشرع فى بنائه سنة 263 هجرية (876/876م) وأتمه سنة 265 هجرية (879م) ودون هذا التاريخ على لوح رخامى مثبت على أحد أكتاف رواق القبلة. كان ثالث الجوامع التى أنشئت بمصر ويعتبر من أقدم جامع احتفظ بتخطيطه وبكثير من تفاصيله المعمارية الأصلية، ذلك لأن أول هذه الجوامع جامع عمرو الذى بنى سنة 21 هجرية (642م) لم يبق أثر من بنائه القديم، كما أن ثانيهما وهو جامع العسكر الذى بنى فى سنة 169 هجرية (785/786م) قد زال بزوال العسكر. تناولت يد الإصلاح هذا الجامع كما امتدت إليه يد التدمير والخراب فى فترات من عصوره المختلفة شأنه فى ذلك شأن كثير من المساجد الأثرية الأخرى. ففى سنة 470 هجرية (1077/ 78م) قام بدر الجمالى وزير الخليفة المستنصر الفاطمى ببعض إصلاحات بالجامع أثبتت على لوح رخامى مركب أعلى أحد أبواب الوجهة البحرية، وأمر الخليفة المستنصر بعمل محراب من الجص بأحد أكتاف رواق القبلة بلغت فيه صناعة الزخرفة الجصية حد الدقة والإتقان ذلك عدا محرابين جصيين آخرين، عمل أحدهما فى العصر الطولونى والثانى فى العصر الفاطمى وكلاهما برواق القبلة أيضاً، إلا أن أهم إصلاح أدخل على الجامع هو ذلك الذى قام به السلطان حسام الدين لاجين سنة 696 هجرية (1296/1297م)، فقد أنشأ: 1- القبة المقامة وسط الصحن والتى حلت محل القبة التى شيدها الخليفة الفاطمى العزيز بالله سنة 385 هجرية (995م) بدلاً من القبة الأصلية التى احترقت سنة 376 هجرية (986م). 2- المئذنة الحالية ذات السلم الخارجى. 3- المنبر الخشبى. 4-كسوة الفسيفساء والرخام للمحراب الكبير. 5- قاعدة القبة التى تعلو هذا المحراب. 6- كثيراً من الشبابيك الجصية. 7- محراباً من الجص مشابها للمحراب المستنصرى بالكتف المجاورة له. 8- سبيلاً بالزيادة القبلية جدده قايتباى فيما بعد وأصلحته إدارة حفظ الآثار العربية أخيراً. وفى أواخر القرن الثانى عشر الهجرى (الثامن عشر الميلادى) استعمل هذا الجامع مصنعاً للأحزمة الصوفية، كما استعمل فى منتصف القرن الماضى ملجأ للعجزة. وما كادت تنشأ لجنة حفظ الآثار العربية سنة 1882م حتى شرعت فى انتشاله من وهدته، وأخذت فى ترميمه وإصلاحه إلى أن كانت سنة 1918م حين أمر المغفور له الملك فؤاد الأول بإعداد مشروع لإصلاحه إصلاحاً شاملاً وتخليه ما حوله من الأبنية ورصد لذلك أربعين ألف جنيه أنفقت فى تقويم ما تداعى من بنائه وتجديد أسقفه وترميم بياضه وزخارفه. يتكون هذا الجامع من صحن مكشوف مربع تقريباً طول ضلعه 92 متراً تتوسطه قبة محمولة على رقبة مثمنة ترتكز على قاعدة مربعة بها أربع فتحات معقودة وبوسطها حوض للوضوء ويسترعى النظر فيها وجود سلم داخل سمك حائطها البحرية يصعد منه إلى منسوب الرقبة. ويحيط بالصحن أربعة أروقة أكبرها رواق القبلة، ويشتمل على خمسة صفوف من العقود المدببة المحمولة على أكتاف مستطيلة القطاع استديرت أركانها على شكل أعمدة ملتصقة، ويشمل كلاً من الأروقة الثلاثة الأخرى على صفين فقط. ويغطى الأروقة الأربعة سقف من الخشب حديث الصنع عمل على نمط السقف القديم وبأسفله ركب الإزار الخشب القديم المكتوب عليه من سور القرآن الكريم بالخط الكوفى المكبر. ويبلغ طول الجامع 138 متراً وعرضه 118 متراً تقريباً يحيط به من ثلاثة جهات، البحرية والغربية والقبلية، ثلاث زيادات عرض كل منها 19 متراً على وجه التقريب ويكون الجامع مع هذه الزيادات مربعاً طول ضلعه 162 متراً، ويتوسط الزيادة الغربية الفريدة فى نوعها والتى لا توجد مثيلة لها فى مآذن القاهرة، وأغلب الظن أنها اقتبست سلمها الخارجى من المنارة الأصلية للجامع، ولعلها قد بنيت على نمط مئذنة سامراء، وهى تبتدئ مربعة من أسفل ثم أسطوانية وتنتهى مثمنة تعلوها قبة ويبلغ ارتفاعها أربعين متراً. ووجهات الجامع الأربع تسودها البساطة وليس بها من أنواع الزخرف سوى صف من الشبابيك الجصية المفرغة المتنوعة الأشكال والمختلفة العهود بين كل منها تجويفة مخوصة، وتنتهى الوجهات كما تنتهى أسوار الزيادات بشرفات مفرغة جميلة ويقابل كل باب من أبواب الجامع باباً فى سور الزيادة ذلك عدا باباً صغيراً فتح فى جدار القبلة كان يؤدى إلى دار الإمارة التى أنشأها أحمد بن طولون شرق الجامع. ويتوسط جدار القبلة المحراب الكبير الذى لم يبقَ من معالمه الأصلية سوى تجويفه والأعمدة الرخامية التى تكتنفه، وما عدا ذلك فمن عمل السلطان لاجين كما ذكر آنفا. ويعلو الجزء الواقع أمام المحراب قبة صغيرة من الخشب بدائرها شبابيك جصية مفرغة محلاة بالزجاج الملون ويقوم إلى جانب المحراب منبر، أمر بعمله السلطان لاجين أيضاً وحل محل المنبر الأصلى وهو مصنوع من الخشب المجمع على هيئة أشكال هندسية تحصر بينها حشوات محلاة بزخارف دقيقة بارزة، وهذا المنبر يعتبر من أجمل منابر مساجد القاهرة وأقدمها، وهو إن جدد الكثير من حشوه يعتبر من حيث القدم ثالث المنابر القائمة بمصر: فأولها منبر المسجد الموجود بدير القديسة كاترين بسيناء، والذى أمر بعمله الأفضل شاهنشاه فى أيام الخليفة الفاطمى الآمر بأحكام الله سنة 500 هجرية (1106م)، وثانيها منبر المسجد العتيق بقوص الذى أمر بعمله الصالح طلائع سنة 550 هجرية (1155م). بقيت الزخارف الجصية التى نشاهدها حول العقود والفتحات وفى بعض بواطن العقود المشرفة على الصحن، فهى وإن رمم الكثير منها إلا أنها لازالت باقية بطابعها الطولونى المستمد عناصرها من زخارف سامرا، أما الزخارف المحفورة فى تجليد أعتاب بعض الأبواب فإنها قريبة الشبه جداً من زخارف سامرا.
