خالد البرماوي يكتب: خطر الهيمنة الرقمية

على مدار ربع قرن تقريبًا قضيتها في صحافة التكنولوجيا، كنت من أوائل المؤمنين والمبشرين بالعصر الرقمي. كنت دائما أرى في التكنولوجيا حلاً عادلاً وموضوعيًا، وجسرًا للشعوب المقهورة نحو التنمية والرخاء، ولدينا قصص إيجابية كثيرة لعبت فيها التكنولوجيا دورًا فعالًا في نهضة دول عدة، فهي سر تفوق اليابان وكوريا والصين، ومعجزة الهند الجديدة، وطوق نجاة ماليزيا والفلبين وتايلاند والبرازيل وأيرلندا، وكادت تكون كذلك فيمصر، لولا الظروف السياسية!
ورغم سنوات هيامي بالتكنولوجيا، أجد نفسي اليوم في وضع مختلف، فالحل بدأ يتحول إلى مشكلة، وطوق النجاة صار معول هدم، وبت أجد نفسي بعيدًا عن منطقة التبشير، وأقرب للتحذير، بسبب الاندفاع الأعمى خلف تطوير محموم لتقنيات الذكاء الاصطناعي، والتي تتضاعف قوتها عدة مرات كل 6 أشهر، في ظل غياب التشريعات والأخلاقيات والحوكمة.
قبل أيام شاركت في مؤتمر بعنوان: "الاتجاهات العالمية الحديثة في توظيف الذكاء الاصطناعي في المنتج الإعلامي والثقافي"، بدعوة كريمة تلقيتها من المجلس الأعلى للثقافة، وعلى عكس المنتظر، والمتوقع مني من الدعم والترويج لوجهة النظر التكنولوجية، والتبشير بالفوائد والتماهي التقني، أخبرتهم أنني جئت اليوم بوجه جديد، جئت لكي أحذر، أحذر من عصر يتسارع فيه النهم لدفع هذه التقنية لآفاق أوسع، بلا تعقل، أو تشريع، أو أخلاقيات تحكمه، وتحميه.
ولست وحدي من يحذر، سبقني في ذلك الكثيرون من الخبراء العالميين، من الأمم المتحدة والاتحاد الأوروبي، ومنظمة التعاون الاقتصادي والتنمية، وسط تصاعد أهوج تطوير ذكاء اصطناعي فائق القدرة في آثاره الضارة المحتملة عن فوائده، حيث فقدان السيطرة عليه باتت أقرب"الآن"، فما بالنا بالمستقبل!
تحذير وتجاهل !
في مطلع هذا العام قام أكثر من 100 باحث وشخصية عالمية، بمن فيهم إيلون ماسك، بالتحذير من أن الذكاء الاصطناعي قد يشكل خطرًا أكبر من الأسلحة النووية، إذالم يتم تنظيمه.
يوشوا بنجيو، رائد الذكاء الاصطناعي والحائز على جائزة "تورينج" الشهيرة، قدم أول تقرير دولي حول سلامة الذكاء الاصطناعي، محذرًا من أخطار معروفة كالمحتوى المزيف، الذي قد يؤدي إلي انتهاء عصر الحقيقة، والتي ستصبح نادرةً في المستقبل، وحكرًا على فئة قليلة تستطيع أن تتحقق، وتوثق معرفتها، وستبذل في ذلك المال والوقت والجهد لكي تعرف، وتعرف وحدها!
يوشوا حذر أيضا من خطر "فقدان السيطرة" على أنظمة الذكاء الاصطناعي ذات الإرادة المستقلة، الراغبة في البقاء والتطور، وأشار إلى أن ظهور نماذج صينية متقدمة وسريعة الانتشار يزيد من حدة وخطورة هذا السباق، في إشارة إلى نموذج "ديب سيك".
وهناك تحذير آخر من جيفري هينتون، "عراب الذكاء الاصطناعي"، والذي أحدثت أعماله ثورةً في هذا المجال، حيث استقال من جوجل، معربًا عن ندمه، وقلقه من أخطار الذكاء الاصطناعي، التي قد تخرج عن سيطرتنا.
بينما يرى العالم البريطاني ستيوارت راسل أن الذكاء الاصطناعي يهدد البشرية بكارثة، مؤكدًا أننا لم نفكر مليًافي جدوى اختراعه، ولا سيناريوهات تطوره وإمكانية مقاومة الآلات فائقة الذكاء لمحاولات السيطرة عليه مستقبلًا.
وإذا كان تحذير هؤلاء ليس كافيا، فالأرقام والحقائق والدراسات دليل أدمغ، وبعضها خرجت بالاستعانة بأدوات الذكاء الاصطناعي نفسها: تشير التقديرات إلى أن الذكاءالاصطناعي العام (AGI) قد يتفوق على ذكاء البشر بحلول 2030-2040، ما يفتح الباب أمام قدرته على إجراء عمليات جراحية معقدة، وهو ما قد يكون ذروةَ الذكاء البشري.
أما تقرير المنتدى الاقتصادي العالمي يتوقع فقدان 83 مليون وظيفة بحلول عام 2027، مقابل ظهور 69 مليون وظيفة جديدة، أي خسارة صافية قدرها 14 مليون وظيفة على الأقل خلال عامين فقط! وفي تقديرات مؤسسة"جولدمان ساكس" الاقتصادية تشير إلى تأثير محتمل على 300 مليون وظيفة بحلول عام 2030. وعن معهد ماكينزي يرى أن 50% من مهام العمل الحالية قابلة للاستبدال بالتكنولوجيا المتاحة اليوم، فماذا عن المستقبل؟!
وصحيح أن مؤسسة PwC تتوقع إضافة 15.7 تريليون دولار للناتج المحلي العالمي بحلول عام 2030، بفضل تقنيات الذكاء الاصطناعي، وهذا يبدو خبرًا جيدًا، ولكن السؤال هو: من سيستفيد من هذه الثروة؟ ومن سيزدادفقرًا مقابل زيادتها؟
تسألوني عن تأثير الذكاء الاصطناعي على الثقافة؟
الواقع يؤكد أن هناك نقصًا كبيرًا في التمثيل الثقافي العادل والمتوازن والموضوعي في نماذج الذكاء الاصطناعي المنتشرة، ما يهدد التنوع الثقافي ويعزز التحيزات الغربية، المشبعة بالفعل بالعنصرية والتمييز، وأظهرت العديد من الدراسات وجود انحيازات لنتائج منصات الذكاء الاصطناعي ضد ثقافات وتراث شعوب مناطق مثل جنوب آسيا وأفريقيا والمنطقة العربية، ما يعمق التمييز وفاق العلاقات السلطوية للمجتمع الغربي، وبالتأكيد تساهم فجوة البيانات في الدول النامية في تفاقم هذه المشكلة.
الواقع أن هذه الأدوات تعطي الأولوية لأفكار وثقافات أقوىرقميًا، حتى لو كان الواقع على الأرض مغاير، فتصبح معها الوقائع الرقمية المختلقة أقوى، من حقائق الأشياء، فالثقافة والتراث الأمريكي رغم حداثته ومحدوديته، أصبحمسيطرًا وسائدًا "رقميًا" على حضارة عمرها 7 آلاف سنة!
يُقولون إن الذكاء الاصطناعي مفيد إذا عرفنا كيف نستخدمه، وأنا يوميا أستغرق ليس أقل من 4 ساعات فيفهم وتوظيف وتلك الأدوات، ومع ذلك أرى أن مكاسبها الفردية مهما بلغت، لا تساوي حجم المخاطر المتوقعة منها، فهل منطقي أن نقوم بتطوير شيء لا نعرف كيف نسيطر عليه؟! فقوانين الفيزياء والمنطق تؤكد استحالة التحكم فيمن هو أقوى وأذكى. فماذا سيحدث عندما يبلغ الذكاء الاصطناعي مستوى يفوق عشرات المرات الذكاء والقوة البشرية؟ هل سيسمع لنا؟ هل سيخضع لأوامرنا؟ ولو فعل! لمن سيخضع، لأكثر البشر حكمة وعدل، أم للأقوى.. ونظرة واحدة على عالم اليوم، ستعرف قيم وأخلاق أكثر الدول قوة!!
والآن يبقى السؤال الأهم: من سينظم هذا التطور الهائل؟ ومتى؟ وكيف؟ وهل من المنطقي، في ظل التطور المذهل للذكاء الاصطناعي وحالة الذكاء البشري الراهنة، أن يخضع الأقل ذكاءً للأذكى؟".
ورغم قناعتي بضعف الأمل وحاجتنا لمعجزة، إلا أنني أؤمن بمقولة أستاذي الدكتور أحمد الشربيني، أستاذ الاتصالات العالمي: "لا نملك رفاهية التشاؤم"، ولهذا حديث آخر.