الذكاء الاصطناعى قادم إلى المدارس بتحيزاته

نشرت مؤسسة Brookings مقالا للكاتبين Andre M. Perry وNicol Turner Lee تناولا فيه مخاطر إدخال تكنولوجيا الذكاء الاصطناعى فى النظام التعليمى وما يمكن أن ينتج عنه من زيادة فى العنصرية وعدم المساواة بين الطلاب.
لقد غير الذكاء الاصطناعى تقريبا كل جانب من جوانب حياتنا، بدءا من السيارات بدون سائق إلى تكنولوجيا «سيرى» وهو تطبيق يعمل كمساعد شخصى ومتصفح يرد على الأسئلة ويقدم توصيات وقريبا سيؤثر الذكاء الاصطناعى على التعليم بنفس الطريقة. جعل المهام الإدارية للمدرسة أو الجامعة ومناهج الطلاب تعمل بشكل آلى لم يصبح ممكنا فقط، ولكن تنفيذه أيضا أصبح وشيكا. وسيكون الهدف هو قيام أجهزة الكمبيوتر بإصدار أحكام إنسانية وتنفيذ مهام تجعل حياة المعلمين أسهل، ولكن إذا لم نكن حذرين، فستطبق هذه الآلات عنصريتنا أيضا.
سيواجه الأطفال من مجتمعات السود واللاتينيين الذين غالبًا ما يعانون بالفعل من الفجوة الرقمية مزيدًا من عدم المساواة إذا تم تطبيق تكنولوجيا الذكاء الاصطناعى على نحو واسع فى مجال التعليم دون التفكير فى كيفية التحقق من التحيزات التى قد تكون موجودة لدى المبرمجين والذين معظمهم يكونون من البيض الذين يعملون على إنشاء نظم الذكاء الاصطناعى. تحدد معلومات وقيم المبرمجين ما إذا كانت نظم الذكاء الاصطناعى الذين يعملون على تصميمها جيدة أم لا، وبالتالى يمكن أن تؤدى تحيزاتهم فى النهاية إلى تكرار العيوب والتحيزات الموجودة فى العالم الحقيقى ونقلها إلى العالم الافتراضى.
كان هذا هو الموضوع الرئيس فى المؤتمر الأخير بعنوان «الذكاء الاصطناعى يلائم أى مكان فى الفصل؟»، الذى قدمته الجمعية العامة للأمم المتحدة، ومنظمة الأمم المتحدة للتربية والعلوم والثقافة (اليونسكو)، ومركز الفكر «وايز» ومختبر تقنيات التعلم التحولى فى كلية المعلمين، واستضافته جامعة كولومبيا.
بينما يجادل الكثيرون بأن تكنولوجيا الذكاء الاصطناعى ستزيد من كفاءة الفصول الدراسية، إلا أننا نحتاج إلى مزيد من التدقيق والبحث قبل نقل هذه التكنولوجيا إلى المدارس. العنصرية والتمييز موجودان بالفعل فى أنظمتنا التعليمية. ومن ثم يجب على المبرمجين التركيز على بناء أنظمة للذكاء الاصطناعى تساعد على تحقيق المساواة وتحسين الوضع الراهن... لقد رأينا بالفعل مخاطر استخدام برامج تكنولوجية متحيزة فى قاعة المحكمة: فعند استخدام هذه البرامج للتنبؤ بخطر معاودة الإجرام تم تصنيف السود كمجرمين مستقبليين بمعدل ضعف معدل البيض.
***
المحاولات السابقة لجعل التعليم أكثر كفاءة وإنصافًا توضح ما الذى يمكن أن يحدث. الاختبارات الموحدة كانت تمثل نوعا من التحديث المغرى بالنسبة لجيل سابق من قادة التعليم الذين أملوا فى إضفاء الطابع الديمقراطى على النظام، وسمحوا بمساءلة المدارس والمدرسين عندما لا يصل الطلاب إلى المستويات المتوقعة. لكن مصممى أدوات التقييم تلك لم يفكروا فى طريقة لمنع وصول العنصرية وعدم المساواة الموجودة فى المجتمع الأمريكى لهذه الاختبارات وكيف يمكن توخى الحذر لجعل هذه الأدوات أكثر عدلا.
ساعد الاستخدام المفرط للاختبارات الموحدة فى اقتصار الكليات والجامعات على قبول الطلاب الأثرياء، مما أدى إلى تضييق عمليات التسجيل والاستثمار فى الأشخاص الموهوبين ذوى الدخول المنخفضة.. لإصلاح ذلك، أعلنت مؤسسة College board، وهى مؤسسة غير ربحية تقوم بإعداد الامتحان الموحد المعروف باسم ال«سات» وهو الاختبار المستخدم للقبول فى الجامعات، عن طرح حل ممكن للمشكلة وهو البدء بإدراج «علامة المحن Adversity Score» المخصصة لكل طالب يقوم بأداء امتحان القبول فى الكلية. كان من المقرر أن تتكون النتيجة من 15 عاملا تشمل الخصائص السكنية والديموغرافية مثل معدل الجريمة والفقر وإضافته إلى نتيجة كل طالب. ومع ذلك، بسبب ما تعرض له الاقتراح من نقد، تراجعت مؤسسة College board عن خطتها.
***
أدت المحاولات الأخيرة لإدخال الذكاء الاصطناعى فى المدارس إلى تحسينات فى تقييم الطلاب قبل وأثناء العملية التعليمية، ووضع الطلاب فى مستويات مناسبة لهم، وزيادة كفاءة جدول الفصول الدراسية... وسمحت هذه التطورات بإدخال خطط تعليمية مختلفة لمجموعة متنوعة من الطلاب.. ولكن هذا الفرز قد يؤدى إلى عواقب إذا لم يتم الأخذ فى الاعتبار تجارب الطلاب التى مروا بها أو مستوى دخولهم وإذا كانوا من أصحاب الدخول المنخفضة أو من الأقليات الذين يعانون من سوء طريقة إعدادهم وخفض التوقعات بشأنهم.
يمكن أن يؤدى انتشار تقنية الذكاء الاصطناعى أيضًا إلى إغراء بعض المناطق لاستبدال المعلمين بالبرمجيات، كما يحدث بالفعل فى أماكن مثل دلتا المسيسيبى. فى ظل نقص أعداد المعلمين، تحولت هذه المناطق إلى منصات على الإنترنت. ولكن انعكس ذلك بالسلب على الطلاب الذين عانوا من عدم وجود معلمين مدربين من البشر لا يعرفون الموضوعات الدراسية فحسب، بل يعرفون ويهتمون بالطلاب.
لم يساعد بائعو البرامج التكنولوجية على حل هذه الأزمة. إن المشهد التعليمى ملىء الآن بالمدارس الافتراضية حيث وعدت شركات التكنولوجيا الحديثة بالوصول إلى الطلاب الذين يصعب تعليمهم وكذلك الطلاب من السود واللاتينيين أو ذوى الأصول الإسبانية، وخلق كفاءات فى المناطق منخفضة التمويل. وبدلا من ذلك، تعرضت العديد من الشركات الناشئة للفضائح بعدما وجدوا أن حوالى 2000 طالب العام الماضى لم يصل التعليم إليهم، واضطرت مدرستان على الإنترنت فى ولاية إنديانا إلى الإغلاق.
ولكن لا يزال الذكاء الاصطناعى قادرا على تحقيق فوائد حقيقية. على سبيل المثال، يمكن أن يوفر مجهود المدرسين الذى يضيع فى الأعمال المستهلكة للوقت مثل تصحيح وتقييم الواجبات المنزلية... ولكن الذكاء الاصطناعى لن ينجح إذا كان الغرض منه هو تجنب العمل الشاق الناتج من البحث عن المدرسين الأكفاء. حتى يؤدى تطبيق الذكاء الاصطناعى إلى التقدم، يجب أن يعمل على تحسين ظروف العمل ويزيد من الرضاء الوظيفى للمعلمين. يجب أن يقلل الذكاء الاصطناعى من الإنهاك ويزيد من الرغبة فى أداء الوظيفة... ولكن إذا لم يعمل الفنيون مع المعلمين السود لن يستطيعوا معرفة الظروف التى يجب تغييرها حتى تتحقق الاستفادة القصوى من هذه التكنولوجيا.
يجب علينا إدخال مبرمجين مختلفين فى التكنولوجيا وإدماج الأشخاص الملونين فى جميع جوانب تطوير الذكاء الاصطناعى، مع الاستمرار فى تدريب المعلمين على استخدامه السليم وإدخال اللوائح والقوانين للحد من طرق التمييز فى تطبيقه.
ستواصل تكنولوجيا الذكاء الاصطناعى فى إحداث الاضطرابات بالمؤسسات التى لطالما كانت موجودة والنظام التعليمى سيتعرض لهذه الاضطرابات. ولكن مع الإشراف، يمكن استخدام هذه الأنظمة الجديدة لإنتاج المعلمين الراضين والطلاب المتفوقين، وأخيرا المساواة فى الفصول.
إعداد: ابتهال أحمد عبدالغنى
النص الأصلى
https://brook.gs/2m8qC7c