نصائح من خبراء أمن المعلومات لاستخدام الذكاء الاصطناعي بدون مخاطر

مع انتشار استخدام تقنيات الذكاء الاصطناعي فى العديد من التخصصات من جانب الموظفين وذلك من أجل إنجاز أعمالهم بشكل أسرع وأسهل لكن فى الوقت نفسه فالأمر لا يخلو من المخاطر وانتهاك الخصوصية، ولذلك نقدم خلال السطور التالية أبرز نصائح خبراء أمن المعلومات لاستخدام الذكاء الاصطناعي بشكل آمن.
استخدام تقنيات الذكاء الاصطناعي
- من المهم تزويد متخصصي تكنولوجيا المعلومات بالمعارف اللازمة بخصوص تقنيات استغلال الثغرات واستراتيجيات الدفاع العملية وعلى سبيل المثال تقدم كاسبرسكي تدريب أمن النماذج اللغوية الكبيرة ضمن مجموعتها لتدريبات الأمن السيبراني، وهو إلى ذلك يعزز التطور المهني والأمن السيبراني الشامل للمؤسسة.
- التأكد من تثبيت الموظفين لحلٍ للأمن السيبراني في أجهزتهم الشخصية والمهنية التي يستخدمونها للوصول إلى بيانات الأعمال حيث تحمي المنتجات المستخدمين من مجموعة متنوعة من التهديدات، مثل التصيد الاحتيالي أو تثبيت أدوات ذكاء اصطناعي وهمية، لا سيما أنّ الوقت الحالي يشهد تناميًا في أعداد المجرمين الذين يدمجون برمجيات سرقة المعلومات في تطبيقات الذكاء الاصطناعي الوهمية.
- الحرص على تنفيذ استطلاعات منتظمة لمراقبة وتيرة استخدام الذكاء الاصطناعي والمهام المرتبطة به ويمكن الاستعانة بهذه المعلومات لتقييم فوائد الذكاء الاصطناعي ومخاطره، وتعديل سياسات الشركة وفقًا لها.
- يجب الحرص على تدريب الموظفين على الاستخدام المسؤول للذكاء الاصطناعي حيث تعزز دورات أمن الذكاء الاصطناعي التدريبية، المتاحة في منصة كاسبرسكي للتوعية الأمنية، البرامج التعليمية في الشركات بتدريبات متخصصة.
- استخدام وكيلَ ذكاء اصطناعي متخصص يتولى تصفية استعلامات الموظفين آنيًا لإزالة بعض البيانات الحساسة مثل الأسماء أو معرفات العملاء)، ويطبق نظام التحكم المعتمد على الدور الوظيفي لمنع حالات الوصول غير المصرح بها كما يجب انشاء سياسة شاملة تتناول مجموعة الأخطار المتعلقة بالذكاء الاصطناعي
ووفقا لدراسة حديثة عنوانها «الأمن السيبراني في العمل: معارف الموظفين وسلوكياتهم» شملت مصر، وبينت نتائجها أنّ 87% من الموظفين المشمولين بالاستطلاع يستخدمون أدوات الذكاء الاصطناعي في مهام العمل لكن لم يتلقّ إلا 46% من أولئك الموظفين تدريبات على جوانب الأمن السيبراني المرتبطة بالذكاء الاصطناعي، التي تعرف بأنها من العناصر الجوهرية للحماية من أخطار استخدام الذكاء الاصطناعي، بدء من تسريب البيانات وانتهاء بعمليات حقن أوامر الذكاء الاصطناعي الخبيثة.
أشار 90 % من المشاركين في مصر إلى إدراكهم معنى مصطلح «الذكاء الاصطناعي التوليدي»، وقد تجاوزت هذه المعرفة الجوانب النظرية؛ إذ باتت أدوات الذكاء الاصطناعي جزءًا جوهريًا من حياتهم اليومية. يستخدم 87% من المشاركين أدوات الذكاء الاصطناعي في أعمالهم؛ سواء لكتابة النصوص وتحريرها 71%، أو في كتابة رسائل البريد الإلكتروني المرتبطة بالعمل 53%، أو في إنشاء صور وفيديوهات باستخدام الذكاء الاصطناعي 54%، أو في تحليل البيانات 54%.
وأظهر الاستطلاع فجوة خطيرة في جاهزية الموظفين للتعامل مع أخطار الذكاء الاصطناعي؛ إذ أفاد 17% من الموظفين بعدم حصولهم على أي تدريب مرتبط بالذكاء الاصطناعي. أما الموظفون الذين حضروا دورات تدريبية بهذا المجال، فأشار 62% منهم إلى أنّ تلك الدورات ركزت على طريقة استخدام أدوات الذكاء الاصطناعي بفعالية وإنشاء الأوامر، أما الموظفون الذين تدربوا على جوانب الأمن السيبراني المرتبطة باستخدام الذكاء الاصطناعي فاقتصرت نسبتهم على 46% فقط.
صحيح أنّ أدوات الذكاء الاصطناعي، التي تفيد في أتمتة المهام اليومية، شاعت كثيرًا في المؤسسات، غير أنها جزء من «تكنولوجيا معلومات الظل»، لا سيما إذا استخدمها الموظفون دون توجيه من الشركة. وفي هذا الصدد قال 77% من المشاركين إنّ استخدام أدوات الذكاء الاصطناعي التوليدي مسموح في عملهم، بينما أقر 20% بعدم السماح بها، في حين أبدى 2% عدم يقينهم من قرار شركتهم بشأنها.
إذا أرادت الشركات أن يكون استخدام موظفيها للذكاء الاصطناعي أكثر أمانًا وشفافية، فعليها تطبيق سياسة شاملة على مستوى الشركة كافة بشأن هذه المسألة فتمنع هذه السياسة استخدام الذكاء الاصطناعي في وظائف معينة ولأنواع معينة من البيانات، وتستطيع تنظيم أدوات الذكاء الاصطناعي المتاحة للموظفين، فتسمح حصرًا باستخدام الأدوات من القائمة المعتمدة في الشركة. ولا بد من توثيق هذه السياسة رسميًا، وعلى الموظفين تلقي التدريب المناسب فيها.
إجراءات السلامة الرقمية
إشكالية الذكاء الاصطناعي في المسرح المعاصر
عقب ضبط طالب صنع فيديو AI لطالبة، خبير قانوني: المشرع وضع عقوبات رادعة لجرائم الذكاء الاصطناعي
وبعدما تضع الشركات قائمة بإجراءات السلامة الرقمية وضوابطها، ينبغي لها مراقبة استخدام الذكاء الاصطناعي، وتحديد الخدمات الشائعة، وتوظيف هذه المعلومات لتخطيط الإجراءات المستقبلية وتحسين تدابيرها الأمنية كما يقول راشد المومني، المدير العام لمنطقة الشرق الأوسط لدى كاسبرسكي أنه لا يجب المنع التام أو الاستخدام المطلق غير المقيد عند استخدام الذكاء الاصطناعي في جميع أقسام الشركة.
تعد الاستراتيجية الأكثر فعالية هي اتباع سياسة متوازنة تتيح للموظفين مستويات متفاوتة من الوصول إلى الذكاء الاصطناعي، وذلك وفقًا لحساسية البيانات في كل قسم من الشركة وإذا ترافق هذا الأمر مع التدريب المناسب، فسيزيد مستويات الكفاءة والمرونة، ويحافظ على معايير أمنية قوية.
ونقدم لكم من خلال موقع (فيتو)، تغطية ورصدًا مستمرًّا على مدار ال 24 ساعة ل أسعار الذهب، أسعار اللحوم ، أسعار الدولار ، أسعار اليورو ، أسعار العملات ، أخبار الرياضة ، أخبار مصر، أخبار اقتصاد ، أخبار المحافظات ، أخبار السياسة، أخبار الحوداث ، ويقوم فريقنا بمتابعة حصرية لجميع الدوريات العالمية مثل الدوري الإنجليزي ، الدوري الإيطالي ، الدوري المصري، دوري أبطال أوروبا ، دوري أبطال أفريقيا ، دوري أبطال آسيا ، والأحداث الهامة و السياسة الخارجية والداخلية بالإضافة للنقل الحصري ل أخبار الفن والعديد من الأنشطة الثقافية والأدبية.
تابع موقع فيتو عبر قناة (يوتيوب) اضغط هنا
تابع موقع فيتو عبر قناة (واتساب) اضغط هنا
تابع موقع فيتو عبر تطبيق (نبض) اضغط هنا
تابع موقع فيتو عبر تطبيق (جوجل نيوز) اضغط هنا