خبراء تكنولوجيا يحذرون من استخدام تطبيق الذكاء الاصطناعي الصيني DeepSeek

حث الخبراء على توخي الحذر بشأن التبني السريع لمنصة الذكاء الاصطناعي الصينية DeepSeek، مشيرين إلى مخاوف بشأن نشرها لمعلومات مضللة وكيف يمكن للدولة الصينية أن تستغل بيانات المستخدمين.
قضى الذكاء الاصطناعي الجديد منخفض التكلفة على تريليون دولار من مؤشر أسهم التكنولوجيا الرائدة في الولايات المتحدة هذا الأسبوع، وسرعان ما أصبح التطبيق المجاني الأكثر تنزيلًا في المملكة المتحدة والولايات المتحدة، ووصفها دونالد ترامب بأنها "دعوة للاستيقاظ" لشركات التكنولوجيا، وفقا لصحيفة الجارديان البريطانية.
وصدم ظهورها عالم التكنولوجيا من خلال إظهار قدرتها على تحقيق أداء مماثل للمنصات المستخدمة على نطاق واسع مثل ChatGPT بجزء بسيط من التكلفة.
وقال مايكل وولدريدج، أستاذ أسس الذكاء الاصطناعي بجامعة أكسفورد، إنه ليس من غير المعقول افتراض إمكانية مشاركة البيانات المدخلة في برنامج الدردشة الآلي مع الدولة الصينية.
وأوضح، "أعتقد أنه من الجيد تنزيله والسؤال عنه حول أداء نادي ليفربول لكرة القدم أو الدردشة حول تاريخ الإمبراطورية الرومانية، لكن هل أوصى بوضع أي شيء حساس أو شخصي أو خاص عليهم؟ "قطعاً لا... لأنك لا تعرف أين تذهب البيانات".
وأكدت ويندي هول، عضو الهيئة الاستشارية رفيعة المستوى التابعة للأمم المتحدة بشأن الذكاء الاصطناعي، لصحيفة الجارديان: "لا يمكنك الهروب من حقيقة أنه إذا كنت شركة تكنولوجيا صينية تتعامل مع المعلومات، فأنت تخضع لرقابة الحكومة الصينية". قواعد بشأن ما يمكنك قوله وما لا يمكنك قوله".
وقال روس بيرلي، أحد مؤسسي مركز مرونة المعلومات، الذي تموله جزئياً حكومتا الولايات المتحدة والمملكة المتحدة: "يجب أن نشعر بالقلق"، لقد رأينا مرارًا وتكرارًا كيف تستغل بكين هيمنتها التكنولوجية كسلاح للمراقبة والسيطرة والإكراه، محليًا وخارجيًا على حد سواء".
وقال، إنه إذا لم يتم التصدي له، فإنه يمكن أن "يغذي حملات التضليل، ويؤدي إلى تآكل ثقة الجمهور وترسيخ الروايات الاستبدادية داخل ديمقراطياتنا".
وعندما سُئل المتحدث باسم رئيس الوزراء عما إذا كان داونينج ستريت سيستبعد استخدام الذكاء الاصطناعي الصيني في وايتهول، قال إنه "لن يتقدم على نماذج محددة"، وقال إن التطورات أظهرت أن المملكة المتحدة يجب أن "تذهب أبعد وأسرع لإزالة الحواجز أمام الابتكار" في مجال الذكاء الاصطناعي.
DeepSeek عبارة عن منصة مفتوحة المصدر، مما يعني أن مطوري البرامج يمكنهم تكييفها لتحقيق أهدافهم الخاصة، وقد أثارت الآمال في ظهور موجة جديدة من الابتكار في مجال الذكاء الاصطناعي، الذي بدا أن شركات التكنولوجيا الأمريكية تهيمن عليه، والتي كانت تعتمد على استثمارات ضخمة في مراكز البيانات ومصادر الطاقة الجديدة.
وقال وولدريدج: "إنها إشارة قوية، في حالة عدم فهم أي شخص للرسالة، بأن الصين ليست متخلفة في هذا المجال".
وجد بعض الأشخاص الذين اختبروا برنامج Deepseek أنه لن يجيب على الأسئلة المتعلقة بالقضايا الحساسة مثل مذبحة ميدان تيانانمن، وعندما سئل عن وضع تايوان، فإنه يكرر موقف الحزب الشيوعي الصيني بأن الجزيرة جزء "غير قابل للتصرف" من الصين.
وقال هول: "إن أكبر مشكلة في الذكاء الاصطناعي التوليدي هي المعلومات الخاطئة"، و"يعتمد الأمر على البيانات الموجودة في النموذج، والتحيز في تلك البيانات وكيفية استخدامها - يمكنك رؤية هذه المشكلة مع برنامج DeepSeek chatbot".
وسأل أحد المستخدمين، وهو عظيم أزهر، خبير الذكاء الاصطناعي، عن الأحداث التي وقعت في ميدان تيانانمن، وقيل له إن DeepSeek لا يمكنه تقديم معلومات مفصلة وأن "هذا الموضوع حساس للغاية وغالباً ما يخضع للرقابة في العديد من البلدان، بما في ذلك الصين".
ومع ذلك، أوضحت منظمة العفو الدولية بعد ذلك أن الأحداث "تم الاعتراف بها على نطاق واسع على أنها قمع للاحتجاجات المؤيدة للديمقراطية"، وقالت: "ردت الحكومة الصينية بحملة قمع عنيفة، مما أدى إلى مقتل المئات أو ربما الآلاف من المتظاهرين، أشخاص، بينهم متظاهرون وجنود".
ويستخدم الأشخاص نماذج الذكاء الاصطناعي مثل DeepSeek وChatGPT لمساعدتهم في معالجة الأوراق الشخصية أو المستندات الخاصة بالعمل، مثل محاضر الاجتماعات، ولكن أي شيء يتم تحميله يمكن أن يأخذه مالك الشركة ويستخدمه لتدريب الذكاء الاصطناعي أو لأغراض أخرى.
يقع مقر شركة DeepSeek في مدينة هانغتشو بالصين، وتوضح في سياسة الخصوصية الخاصة بها أن المعلومات الشخصية التي تجمعها من المستخدمين محفوظة "على خوادم آمنة موجودة في جمهورية الصين الشعبية".
وتقول إنها تستخدم البيانات "للامتثال لالتزاماتنا القانونية، أو عند الضرورة لأداء مهام لتحقيق المصلحة العامة، أو لحماية المصالح الحيوية لمستخدمينا والأشخاص الآخرين".
وينص قانون الاستخبارات الوطني الصيني على أن جميع الشركات والمنظمات والمواطنين "يجب أن يدعموا ويساعدوا ويتعاونوا مع جهود الاستخبارات الوطنية".
Write to Amr Mohamed