أعلنت شركة Meta أنها ستبدأ في تصنيف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي (AI) على جميع منصاتها، بما في ذلك Facebook وThreads وInstagram، حيث جاء هذا الإعلان، بعد يوم واحد فقط من تسليط الضوء على مجلس الرقابة بالشركة على الحاجة إلى تغيير سياسة ميتا بشأن المحتوى الناتج عن الذكاء الاصطناعي والتركيز على منع الضرر الذي قد يسببه، ردًا على الشكوى المتعلقة بشركة الرئيس الأمريكي جو بايدن، حول الفيديو المعدل رقميًا والذي ظهر على الإنترنت. وقالت ميتا إنها على الرغم من أنها تقوم بتسمية الصور الواقعية التي تم إنشاؤها بواسطة نماذج الذكاء الاصطناعي الخاصة بها، فإنها ستعمل الآن مع شركات أخرى لتسمية جميع الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يتم مشاركتها على منصاتها.
في منشور بغرفة الأخبار الخاصة بالشركة، أكد رئيس الشؤون العالمية في Meta، نيك كليج، على الحاجة إلى تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لحماية المستخدمين ووقف المعلومات المضللة، وشارك أنه بدأ بالفعل العمل مع اللاعبين في الصناعة لتطوير حل.
وقال: "لقد عملنا مع شركاء الصناعة للتوافق مع المعايير الفنية المشتركة التي تشير إلى وقت إنشاء جزء من المحتوى باستخدام الذكاء الاصطناعي"، وكشف عملاق وسائل التواصل الاجتماعي أيضًا أنه يمكنه حاليًا تصنيف الصور من Google وOpenAI وMicrosoft وAdobe وMidjourney وShutterstock، لقد تم تصنيف الصور التي تم إنشاؤها بواسطة نماذج الذكاء الاصطناعي الخاصة بشركة Meta على أنها "متخيلة باستخدام الذكاء الاصطناعي".
لتحديد الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل صحيح، تتطلب أدوات الكشف معرفًا مشتركًا في جميع هذه الصور، وبدأت العديد من الشركات التي تعمل مع الذكاء الاصطناعي في إضافة علامات مائية غير مرئية وتضمين معلومات في البيانات الوصفية للصور كوسيلة لتوضيح أنها لم يتم إنشاؤها أو التقاطها من قبل البشر، وقالت Meta إنها تمكنت من اكتشاف صور الذكاء الاصطناعي من الشركات المميزة لأنها تتبع المعايير الفنية المعتمدة من الصناعة.
ولكن هناك بعض المشاكل مع هذا، أولاً، لا يستخدم كل منشئ صور الذكاء الاصطناعي مثل هذه الأدوات لتوضيح أن الصور ليست حقيقيا، ثانيًا، لاحظت ميتا أن هناك طرقًا لإزالة العلامة المائية غير المرئية، ولهذا كشفت الشركة أنها تعمل مع شركاء الصناعة لإنشاء تقنية موحدة للعلامة المائية لا يمكن إزالتها بسهولة.
وفي العام الماضي، أعلن جناح أبحاث الذكاء الاصطناعي التابع لشركة Meta، Fundamental AI Research (FAIR)، أنه يعمل على تطوير آلية لوضع العلامات المائية تسمى Stable Signature والتي تدمج العلامة مباشرة في عملية توليد الصور، كما أصدر DeepMind من Google أداة مماثلة تسمى SynthID.
لكن هذا يغطي الصور فقط، كما أصبح الصوت ومقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي أمرًا شائعًا اليوم، وفي معرض تناول هذا الأمر، أقر ميتا بأنه لم يتم إنشاء تقنية كشف مماثلة للصوت والفيديو بعد، على الرغم من أن التطوير قيد التنفيذ، وإلى أن تظهر طريقة لاكتشاف هذا المحتوى وتحديده تلقائيًا، أضافت شركة التكنولوجيا العملاقة ميزة للمستخدمين على منصتها للكشف عن وقت مشاركة الفيديو أو الصوت الناتج عن الذكاء الاصطناعي، وبمجرد الكشف عنها، ستضيف المنصة تصنيفًا إليها.
وشدد كليج أيضًا على أنه في حالة عدم كشف الأشخاص عن هذا المحتوى، واكتشفت Meta أنه تم تعديله أو إنشاؤه رقميًا، فقد تطبق عقوبات على المستخدم، وعلاوة على ذلك، إذا كان المحتوى المشترك ذا طبيعة عالية الخطورة ويمكن أن يخدع الجمهور بشأن مسائل ذات أهمية، فقد يضيف تصنيفًا أكثر بروزًا لمساعدة المستخدمين على اكتساب السياق.
