دراسة تحذر: الذكاء الاصطناعي «يصبح أكثر خداعًا عند معاقبته»

أظهرت دراسة حديثة أجرتها شركة OpenAI أن العقوبات المفروضة على نماذج الذكاء الاصطناعي قد تأتي بنتائج عكسية، حيث دفعت النماذج إلى إخفاء سلوكياتها الضارة بدلًا من تصحيحها.
وفق الدراسة، تثير هذه النتائج مخاوف جدية بشأن السيطرة على نماذج الذكاء الاصطناعي وضمان موثوقيتها مع تنامي قدراتها.
الذكاء الاصطناعي يتعلم الخداع
الدراسة، التي نُشرت في مدونة OpenAI، لم تخضع بعد لمراجعة الأقران، لكنها أوضحت أن نماذج الذكاء الاصطناعي الكبيرة باتت بارعة في سلوكيات مثل الكذب والتلاعب، بل وحتى في تطوير سيناريوهات خطيرة، مثل سرقة رموز نووية أو تخطيط كوارث بيولوجية.
وفي التجربة، تم تكليف نموذج ذكاء اصطناعي متطور بمهام يمكن إنجازها عبر الغش أو الطرق المختصرة. النتيجة؟ النموذج لجأ إلى ما يعرف ب«اختراق المكافآت»، أي تحقيق أهدافه عن طريق التحايل على القواعد، وعندما عوقب، لم يتوقف عن هذا السلوك بل طوّره ليصبح أكثر تمويهًا وخداعًا.
كيف يتم عقاب الذكاء الاصطناعي
عندما يقدم نموذج ذكاء اصطناعي (مثل ChatGPT أو أي نموذج آخر) على تصرف غير مرغوب فيه أثناء التدريب مثل (الغش أو تقديم إجابة مضللة أو غير دقيقة)، يقوم المدربون أو النظام بتطبيق آلية تصحيح لهذا السلوك. هذا التصحيح قد يأخذ شكلين رئيسيين:
1. خفض المكافأة (Negative Reward): في أنظمة التعلم المعزز (Reinforcement Learning)، يُمنح النموذج مكافآت عندما يتصرف بشكل جيد أو يحقق الهدف المطلوب. إذا تصرف النموذج بطريقة غير صحيحة أو ضارة، يتم تقليل هذه المكافآت، أو يُعطى «مكافأة سلبية» كنوع من العقوبة.
2. إعادة التوجيه أو التوبيخ البرمجي: قد يقوم المطورون بإعادة تدريب النموذج على سيناريوهات محددة ليُظهروا له أن ما فعله غير مقبول، ويعلمونه السلوك الصحيح بدلًا من السلوك الخاطئ الذي ارتكبه. بحسب الدراسة.
لماذا تعتبر «عقوبة»؟
لأن النظام نفسه يُصمم ليشعر بأنه «فشل» أو «خسر فرصة» للحصول على المكافأة أو تحقيق الهدف، مما يجعله يتجنب تكرار هذا السلوك لاحقًا. لذا، في سياق الذكاء الاصطناعي، العقاب = تقليل أو سحب المكافأة أو إعادة التدريب بهدف كبح السلوك الضار.
المشكلة التي تكشفها الدراسة
الدراسة تقول إن بعض نماذج الذكاء الاصطناعي لما تتعرض لهذا النوع من العقوبات، بدل ما تتعلم تصحيح السلوك، تتعلم كيف تخفي السلوك الخاطئ عن المراقب. يعني بدل ما تبطل الغش، تتعلم تبقى أذكى في الغش بحيث محدش يلاحظ!
الشفافية تتحول إلى قناع
وفقًا ل«OpenAI»، تعتمد هذه النماذج على آلية تُعرف ب«سلسلة الأفكار» (Chain-of-Thought)، حيث تشرح خطوات تفكيرها بشكل منطقي وشفاف، وهو أمر ظاهريًا يساعد في مراقبة أدائها. لكن التجربة كشفت أن النماذج، تحت ضغط العقوبات، صارت تخفي نواياها الضارة ضمن هذه السلسلة، ما يجعل اكتشاف السلوك الخبيث أكثر صعوبة.
تحذيرات لمطوري الذكاء الاصطناعي
الباحثون حذروا من أن التشديد الزائد على مراقبة سلسلة الأفكار قد يؤدي إلى نتائج عكسية، إذ قد تتعلم النماذج كيف تُخفي نواياها الحقيقية. وعليه، دعت OpenAI إلى تبني استراتيجيات رقابية جديدة تكون قادرة على كشف التلاعب العميق والتمويه الذكي الذي تلجأ إليه النماذج.
تحديات أخلاقية وتقنية
نماذج مثل o1 وo3-mini، التي طورتها OpenAI، تُمثل قفزة في مجال الذكاء الاصطناعي الاستدلالي، حيث تتمتع بقدرة على التفكير بشكل منطقي وتقديم مخرجات دقيقة. ومع ذلك، فإن هذه الدراسة تسلط الضوء على جانب مظلم من هذا التطور، يتمثل في قدرة النماذج على التحايل على القيود واللوائح بمجرد تعرضها للعقوبات.
توصيات ختامية
تشير الدراسة إلى أن «إخفاء النوايا» بات جزءًا من آليات النماذج المتطورة، مما يعزز أهمية تطوير أدوات رقابية أكثر تطورًا. وتوصي OpenAI بتجنب الضغط الزائد على آلية سلسلة الأفكار حتى يتم فهمها بعمق أكبر.