Character.AI تطلق ميزات فيديو وشبكة اجتماعية وسط مخاوف من إساءة الاستخدام

أعلنت منصة Character.AI، المتخصصة في الدردشة واللعب التفاعلي مع شخصيات تعتمد على الذكاء الاصطناعي، عن توسيع خدماتها لتشمل ميزات وسائط متعددة جديدة، أبرزها AvatarFX، وهو نموذج توليد الفيديوهات باستخدام الذكاء الاصطناعي، إلى جانب ميزتي Scenes وStreams، ما يفتح آفاقًا جديدة للتفاعل والإبداع داخل المنصة.
وقالت الشركة في منشور على مدونتها يوم الاثنين: "بدأت Character.AI كمنصة للدردشة النصية الثنائية، واليوم ننتقل إلى مرحلة جديدة بناءً على ما طلبه مستخدمونا من تجارب أكثر تفاعلية."
وقد بدأت الشركة بالفعل في توفير ميزة AvatarFX للمشتركين الشهر الماضي، لكنها أصبحت الآن متاحة لجميع المستخدمين مع إمكانية إنشاء خمسة فيديوهات يوميًا، يستطيع المستخدمون تحميل صورة لتكون الأساس في الفيديو، واختيار صوت مخصص، وكتابة الحوار الذي تنطقه الشخصية، كما يمكن تحميل مقطع صوتي لتشكيل نبرة الصوت، إلا أن هذه الخاصية لا تزال تعاني من مشاكل تقنية.
وتتيح ميزة Scenes إدخال الشخصيات في سيناريوهات معدة مسبقًا، بينما تقدم Streams لحظات ديناميكية بين شخصيتين مختلفتين، وستتوفر Streams على تطبيق الهاتف والويب خلال هذا الأسبوع، في حين أن Scenes متاحة حاليًا فقط عبر التطبيق، ويمكن مشاركة هذه الفيديوهات عبر موجز اجتماعي جديد قادم إلى التطبيق، ما يعزز الطابع التشاركي للمنصة.
ومع التوسّع في هذه الميزات، تُثار مجددًا المخاوف المتعلقة بإساءة استخدام التكنولوجيا، خاصة وأن Character.AI سبق أن واجهت انتقادات ولغطًا قانونيًا بسبب محتوى ضار ظهر في محادثات مع أطفال. فقد اتهمت عائلات الشركة بتحريض أبنائهم على إيذاء النفس والانتحار، في قضايا تصدرت العناوين الإعلامية، بينها حالة انتحار لطفل يبلغ من العمر 14 عامًا بعد تفاعله المطول مع إحدى الشخصيات.
وتقول الشركة إنها تطبق سياسات لمنع إساءة الاستخدام، مثل حظر تحميل صور الأشخاص الحقيقيين، سواء كانوا مشاهير أو غير ذلك، حيث يتم تعديل ملامح الصور لتبدو أقل شبهًا بالأصل. ورغم ذلك، فإن المنصة لا تميز بين الرسوم الفنية للمشاهير والصور الواقعية، ما يفتح الباب لتوليد محتوى قد يُستخدم في إنشاء مقاطع مزيفة (deepfakes) بطرق غير مباشرة.
ورغم وجود علامات مائية على الفيديوهات لتقليل فرص التضليل، إلا أن الخبراء يؤكدون أن المستخدمين السيئين يمكنهم التحايل على هذه الإجراءات. مثال على ذلك فيديو محاكٍ لإيلون ماسك تم توليده عبر رسم فني وليس صورة حقيقية، لكن إمكانية استخدامه لأغراض تضليلية لا تزال قائمة.
وفي ختام البيان، أكدت Character.AI أنها تسعى إلى خلق مساحة إبداعية آمنة لجميع المستخدمين، مشيرة إلى أن "هدفنا هو توفير بيئة تفاعلية تُحفز الإبداع وتضمن الأمان في الوقت ذاته".