تيك توك تسحب أداة ذكاء اصطناعي أثارت المخاوف

أصدرت تيك توك بالخطأ رابطًا لإصدار داخلي من أداة الصورة الرمزية الرقمية المدعومة بالذكاء الاصطناعي دون حواجز حماية، مما أتاح للمستخدمين إنشاء مقاطع فيديو تتحدث عن أي موضوع، وتمكنت شبكة CNN من اكتشاف هذه الأداة واستخدامها لتوليد مقاطع فيديو تحتوي على اقتباسات من هتلر ورسائل تحث على شرب مواد التبييض، من بين عبارات أخرى.
قامت تيك توك منذ ذلك الحين بإيقاف هذا الإصدار من الأداة، بينما لا يزال الإصدار الذي كانت تنوي إطلاقه متاحًا، تسمح الصور الرمزية الرقمية التي أطلقتها المنصة مؤخرًا كجزء من مجموعة Symphony لحلول الإعلانات للشركات بإنشاء إعلانات باستخدام صور تشبه الممثلين المدفوعين.
تستخدم الأداة تقنية الدبلجة المدعومة بالذكاء الاصطناعي، مما يتيح للمعلنين إدخال نصوص لجعل الصور الرمزية تقول ما يريدون ضمن إرشادات تيك توك. ووفقًا للمنصة، يمكن للعلامات التجارية استخدام الصور الرمزية الرقمية للتواصل مع المتابعين وتعزيز جهود تسويق المحتوى.
تدعي تيك توك أن الصور الرمزية الرقمية تسمح للشركات بإضافة لمسة إنسانية إلى محتواها عبر منشئي محتوى من خلفيات وجنسيات ولغات متنوعة. يمكن للمستخدمين الذين لديهم حساب TikTok Ads Manager الوصول إلى هذه الأداة، لكن الإصدار الذي اكتشفته CNN كان يسمح لأي شخص لديه حساب شخصي بتجربتها.
في بيان، أوضحت المتحدثة باسم تيك توك، لورا بيريز، أن المنصة حلت الخطأ التقني الذي سمح لعدد صغير من المستخدمين بتوليد محتوى باستخدام نسخة اختبار داخلية للأداة لبضعة أيام، عندما اكتشفت CNN الأداة الداخلية، تمكنت من استخدامها لتوليد مقطع فيديو يحث الناس على التصويت في اليوم الخطأ.
لم تحتوي مقاطع الفيديو التي أنتجتها CNN على علامة مائية تكشف أن الفيديو مولد بالذكاء الاصطناعي، وهو ما تفعله النسخة الرسمية من الصور الرمزية الرقمية، لم تنشر CNN مقاطع الفيديو التي ولدتها عبر تيك توك، وأشارت بيريز إلى أن المنصة كانت سترفض هذا المحتوى لو جرى نشره لأنه ينتهك سياساتها.