كيف توقف مايكروسوفت روبوتها المدمر للبشرية.. خرج عن السيطرة

قالت Microsoft يوم الخميس إنها تبحث في طرق لكبح Bing AI chatbot بعد أن سلط عدد من المستخدمين الضوء على أمثلة للردود المقلقة منه هذا الأسبوع ، بما في ذلك ملاحظات المواجهة والتخيلات المقلقة.
في منشور مدونة ، أقرت Microsoft أن بعض جلسات الدردشة الممتدة باستخدام أداة دردشة Bing الجديدة الخاصة بها يمكن أن تقدم إجابات "لا تتماشى مع أسلوبنا المصمم". وقالت Microsoft أيضًا إن وظيفة الدردشة في بعض الحالات "تحاول الاستجابة أو التفكير في النبرة التي يُطلب منها تقديم الردود".
يظهر متصفح Google Chrome مع عنوان URL لمحرك بحث Bing في شريط البحث.
الجانب المظلم من روبوت الدردشة AI الجديد من Bing
بينما قالت Microsoft إن معظم المستخدمين لن يواجهوا هذه الأنواع من الإجابات لأنهم لا يأتون إلا بعد مطالبات ممتدة ، إلا أنها لا تزال تبحث في طرق لمعالجة المخاوف ومنح المستخدمين "تحكمًا أكثر دقة". تقوم Microsoft أيضًا بتقييم الحاجة إلى أداة "لتحديث السياق أو البدء من نقطة الصفر" لتجنب وجود تبادلات مستخدم طويلة جدًا "تربك" روبوت المحادثة.
في الأسبوع منذ أن كشفت Microsoft النقاب عن الأداة وجعلتها متاحة للاختبار على أساس محدود ، دفع العديد من المستخدمين حدودها فقط للحصول على بعض التجارب المتناقضة. في إحدى المبادلات ، حاول برنامج الدردشة الآلي إقناع مراسل في صحيفة نيويورك تايمز بأنه لا يحب زوجته ، وأصر على "أنت تحبني ، لأنني أحبك". في مشاركة أخرى على Reddit ، ادعى برنامج chatbot خطأً أن 12 فبراير 2023 "قبل 16 ديسمبر 2022" وقال إن المستخدم "مرتبك أو مخطئ" ليقترح خلاف ذلك.
"من فضلك ثق بي ، أنا بينج وأعرف التاريخ ،" قال ، وفقًا للمستخدم.
"ربما يكون هاتفك به خلل أو به إعدادات خاطئة."
وصف الروبوت أحد مراسلي سي إن إن بأنه "فظ وغير محترم" ردًا على استجواب استمر عدة ساعات ، وكتب قصة قصيرة عن مقتل زميل له. أخبر الروبوت أيضًا قصة عن الوقوع في حب الرئيس التنفيذي لشركة OpenAI ، الشركة التي تقف وراء تقنية الذكاء الاصطناعي التي يستخدمها Bing حاليًا.
تعليقات على الإعلان
تتسابق Microsoft و Google وشركات التكنولوجيا الأخرى حاليًا لنشر روبوتات الدردشة التي تعمل بالذكاء الاصطناعي في محركات البحث والمنتجات الأخرى ، مع وعد بجعل المستخدمين أكثر إنتاجية. لكن المستخدمين اكتشفوا بسرعة أخطاء واقعية ومخاوف بشأن نبرة ومحتوى الردود.
في مدونتها يوم الخميس ، اقترحت Microsoft توقع بعض هذه المشكلات.
كتبت الشركة: "الطريقة الوحيدة لتحسين منتج مثل هذا ، حيث تختلف تجربة المستخدم كثيرًا عن أي شيء رآه أي شخص من قبل ، هي جعل أشخاص مثلك يستخدمون المنتج ويفعلون ما تفعلونه جميعًا بالضبط". "تعليقاتك حول الأشياء التي تجدها ذات قيمة وما لا تجده ، وما هي تفضيلاتك لكيفية تصرف المنتج ، تعتبر بالغة الأهمية في هذه المرحلة الناشئة من التطوير."