4 مخاطر من استخدام روبوت المحادثة «ChatGPT».. نصائح للحماية

يعتمد الكثير من الموظفين اليوم على النماذج اللغوية القائمة على الشبكات العصبونية في عملهم مثل روبوت المحادثة ChatGPT، وقد كشف استطلاع أجرته كاسبرسكي في روسيا أن 11% من المشاركين استخدموا روبوتات المحادثة، مع اعتقاد قرابة 30% منهم بقدرتها على استبدال الوظائف في المستقبل.
وتشير استطلاعات أخرى إلى أن 50% من موظفي المكاتبفي بلجيكا و65% منهمفي المملكة المتحدة يعتمدون على روبوت المحادثة ChatGPT، كما يشير رواج كلمة «ChatGPT» في سجلات البحث ضمن Google Trends إلى استخدام واضح للأداة خلال أيام الأسبوع، الذي قد يكون مرتبطاً باستخدام الموظفين له أثناء العمل.
على أي حال، يطرح الاستخدام المتزايد لروبوتات المحادثة في مكان العمل سؤالاً حاسماً: هل هذه الروبوتات مؤهلة للاستخدام مع بيانات الشركات الحساسة؟ للتوصُل إلى الإجابة، حدد باحثوكاسبرسكي أربعة مخاطر رئيسية قد تتعرض لها الشركات عند استخدام موظفيها روبوتChatGPT، وهي:
تسرُّب البيانات أو الاختراق من جهة المزود
على الرغم من أن مشغليروبوتات المحادثةالقائمة علىالنماذج اللغوية الكبيرة هم اللاعبون الأكبر في المجال التقني،فهي غير منيعة ضد الاختراق أو تسرُّب البيانات، فعلى سبيل المثال، تمكن مستخدمو أداةChatGPTفي إحدىالحوادث من رؤية الرسائل فيسجلات محادثة تعود لمستخدمين آخرين.
تسريب البيانات عبر روبوتات المحادثة
نظرياً، يمكن استخدام الرسائل التي يتم تبادلها مع روبوتات المحادثة لتدريب النماذج اللغوية المستقبلية.إذ تميل النماذج اللغوية الكبيرة أحياناً إلى«التذكر غير المقصود»حيث تستحضرسلاسل فريدة من البيانات مثل أرقام الهواتف التي لا تعمل على تحسين جودة النموذج، ولكنها تشكل مخاطراً على الخصوصية، فأي بيانات في مجموعة البيانات المُستخدَمة لتدريب هذهالنماذجقد يصل إليها مستخدمونآخرونسواء عن قصدأو عن غير قصد.
العميل الخبيث
قد يلجأ الأشخاص في الأماكن التي تُحظر فيها الخدمات الرسمية، مثل ChatGPT، إلى بدائل غير رسمية من برامج أو مواقع إلكترونية أو روبوتات محادثة أخرى، ويقومون بتحميل برمجيات خبيثةتتظاهر بأنهاعميل أو تطبيقلا وجود له في الحقيقة.
اختراق الحسابات
يمكن للمهاجمين الدخول إلى حسابات الموظفين، والوصول إلى بياناتهم، عبر هجمات التصيد الاحتيالي أو بيانات تسجيل الدخول.حيثتجد خدمةKaspersky Digital Footprint Intelligence بانتظام منشورات في منتديات الإنترنت المظلم تبيع إمكانية الوصول إلى حسابات مختلفة على منصات روبوتات المحادثة.
مثال على منشور على الإنترنت المظلم يوفر الوصول إلى حساب شركة على منصتيChatGPT وSynthesia مقابل 40 دولاراً.
ويُظهر تحليل أجرته كاسبرسكي لروبوتات المحادثة الشائعة (بما في ذلك ChatGPT، وChatGPT API، وAnthropic Claude، وBing Chat، وBing Chat Enterprise، وYou.com، وGoogle Bard، وتطبيق Genius من تطويرAlloy Studios) أن معايير الأمن والخصوصية أعلى في روبوتات المحادثةالموجهة للعملاء من الشركات (B2B) نظراً للمخاطر الأكبر التي تتعرض إليها معلومات الشركات.وبالتالي، تركز الشروط والأحكام الخاصة باستخدام البيانات، وجمعها، وتخزينها، ومعالجتها بشكل أكبر على الحماية في ذلك المجال مقارنة بالخدمات الموجهة للمستهلكين الأفراد(B2C).في هذاالتحليل، لا تقوم الأدواتالموجهة للشركات في هذا التحليلبحفظ سجلات المحادثة تلقائياً عادةً، وفي بعض الحالات، لا ترسل أي بيانات إلى خوادم الشركة، حيث يعمل روبوت المحادثة محلياً في شبكة العميل.
تعليقاً على هذا الموضوع، قالتآنالاركينا، خبيرة الأمنوالخصوصية لدى كاسبرسكي: "بعد فحص المخاطر المحتملة المرتبطة باستخدام روبوتات المحادثة المستندة إلى النماذج اللغوية الكبيرة للأغراض المهنية، وجدنا أن خطر تسرُّب البيانات الحساسة يكون أعلى عند استخدام الموظفين للحسابات الشخصية أثناء العمل.مما يجعل رفع وعي الموظفين بمخاطر استخدام روبوتات المحادثةأولوية للشركات. فمن ناحية، يحتاج الموظفون إلى معرفة البيانات التي تعتبر سرية أو شخصية، أو تعد سراًمهنياً، ولماذا لا يجب إدخالهاإلى روبوتمحادثة.
ومن ناحية أخرى، يجب على الشركة وضع قواعد واضحة لاستخدام مثل هذه الخدمات، وذلك إن كانتتسمح باستخدامهاأصلاً."
وللحفاظ على الأمان مع الاستفادةمن استخدام روبوتات المحادثة، يوصي خبراء كاسبرسكي بما يلي:
استخدم كلمات مرور قوية وفريدة: أنشئ كلمات مرور معقدة لكل حساب، وتجنب استخدام معلومات يمكن تخمينها بسهولة مثل أعياد الميلاد أو أسماء الأشخاص.
توخى الحذر من التصيد الاحتيالي: احذر من الرسائل الإلكترونية، أو الرسائل النصية، أو المكالمات المفاجئة التي تطلب معلومات شخصية،وتحقق من هوية المرسل قبل مشاركة أي بيانات حساسة.
ثقف موظفيك: يجب أن يكون الموظفون على معرفة مستمرةبأحدث التهديدات السيبرانية وأفضل الممارسات للحفاظ على أمن الشركة السيبراني.
حدِّث برامج الشركة بانتظام:قم بتحديث أنظمة التشغيل، والتطبيقات، وبرامج مكافحة الفيروسات بشكل مستمر ومنتظم.فغالباً ما تتضمن هذه التحديثات تصحيحات أمنية.
قلل مشاركة معلومات الشركة: فكر جيداً قبل مشاركة المعلومات الشخصية على شبكات التواصل الاجتماعي أو المنتديات العامة،وتأكد من مشاركتها عند الضرورة القصوى فقط.
تأكد من موثوقية الروابط ومواقع الويب المُستخدمة: تأكد من سلامة الروابط الخاصةبمواقع الويبقبلزيارتها، خاصة قبل إدخال بيانات تسجيل الدخول أو إجراء عمليات شراء.
استخدم حل حماية مُخصصللشركات: لمنع الموظفين من استشارة روبوتات المحادثة غير الموثوقة.