«15 ثانية تقلب موازين العالم».. استنساخ الأصوات من «OpenAI» ثورة تقنية أم كارثة إنسانية؟

تخيل أن تُرسل تسجيلًا صوتياً لصديقك على أيًا من مواقع التواصل الاجتماعي تحدثه بكل تلقائية عن موضوع محدد بكلماتٍ بسيطة، فيستخدم 15 ثانية فقط من هذا التسجيل الذي يتضمن نبرة صوتك، ليعيد استخدامها بالذكاء الاصطناعي وتغيير مسار الحديث لأي موضوع آخر بالعالم !.
أمر أثار كثيراً من المخاوف لديك أليس كذلك؟ لكنك لست وحدك، بل آثار مخاوف العالم أجمع، وهي أحدث إصدارات شركة «أوبن أيه آي OpenAI» صاحبة برنامج المحادثات الأشهر «تشات جي بي تي chatgpt» القائم على الذكاء الاصطناعي التوليدي.
فأعلنت شركة OpenAI في بيان رسمي بوقتٍ سابق، عن أداة جديدة لاستنساخ الصوت وأطلقت عليها اسم «فويس انجين»، القادر على إعادة إنتاج صوت شخص من خلال عينة صوتية مدتها 15 ثانية.
وأطلقت على أداة استنساخ الأصوات الجديدة اسم VALL-E والتي خلفت نقاشًا حول أخلاقيات تقنية استنساخ الصوت، وأثارت التساؤلات حول مدى جواز استخدام هذه التقنية دون موافقة الشخص المستهدف؛ بينما اعتبرها آخرون تقنية تفتح آفاقًا جديدة للإبداع والتعبير.
وفي 4 أبريل 2024، أعلنت أوبن إيه آي عن وضع قيود على استخدام أداة VALL-E لمنع إساءة استخدامها، حتى لا يتمكن المستخدمون من تطويع هذه الأداة لإنشاء أصوات لأشخاص محددين دون موافقتهم.
كما ستقوم أوبن إيه آي بمراجعة جميع الأصوات التي يتم إنشاؤها باستخدام الأداة قبل نشرها، وفق تقرير مُفصل على موقعها الرسمي.
صوت «بايدن» الضحية الأولى
كانت أبرز الأحداث المعبرة عن خطورة هذه الخاصية من تغيير الأصوات باستخدام الذكاء الاصطناعي، استخدام صوت الرئيس الأمريكي في الدعوى لامتناع الناخبين عن التصويت في الانتخابات التمهيدية في نيو هامبشر، وبتناءً عليها حظرت الولايات المتحدة هذه الدعوات التي تستخدم فيها الأصوات المستنسخة المولّدة بواسطة الذكاء الاصطناعي، من أجل مكافحة عمليات الاحتيال السياسية أو التجارية.
مخاطر استنساخ الأصوات
وعليها يصف لنا خبير قوانين التكنولوجيا، محمد البيه المستشار بمكتب إدارة وحماية البيانات بالبنك الدولي، في تصريحاته ل «المصري اليوم»، أن مخاطر استنساخ الأصوات بهذه الطريقة تتمثل في أزمات عدة، وهناك أكثر من شق أولهم أن التكنولوجيا نفسها ليست جديدة هي متاحة من فترة طويلة لكن لم تكن بنفس التطور المُعلن عنه من شركة أوبن إيه آي، هو تطور خطير وسريع
لكن المشكلة أن الموضوع يحمل كمية مخاطر مش طبيعية، مرعب إذا جاز التعبير وهو ما يؤكد أهمية وجود قوانين تحكم هذه التقنيات قبل انتشارها بأيادي الجميع.
«مجرد 15 ثانية فقط، تتيح استخدام صوت الشخص، وكان أبرزها مثال بايدن، فيمكن إطلاق أي تصريحات حالياً باسمه تتسبب في كوارث عدة، كذلك تتضح المخاطر في عدة أمور مختلفة وذات مجالاً واسعاً، فبينها على سبيل المثال جميع التطبيقات الصوتية مثل «Siri وإليكسا» أو أي تطبيق يتيح الأوامر الصوتية تحدثه على مدار اليوم يصنف كارثة إذا تم تطويعه بهذه الأداة الجديدة من «أوبن إيه آي».
وتابع «البيه»، «كذلك يمكن استخدام أي تسجيل صوتي لأي شخص على مواقع التواصل الاجتماعي، أو حتى بين الأصدقاء وبعضهم، فحتى تسجيلي الصوتي الحالي الذي أرسله لجريدة المصري اليوم في حواري معكم يمكن استخدامه الآن وتحويله لأي موضوع آخر لا علاقة لي به من الأساس، لذلك فالوضع كارثي».
وتفسيراً لمدى كارثية الأمر يقول المختص بقوانين الذكاء الاصطناعي محمد البيه: أن السيارات التي تعمل بالأوامر الصوتية، يمكننا بهذه الطريقة سرقتها بمجرد استخدامنا 15 ثانية من صوت مالكها، فضلاً عن مصائب الجرائم فيمكن بهذه الطريقة الاستناد لتسجيل صوتي لشخص يعترف بارتكاب جريمة لا علاقة له بها. كما سيفتح هذا الجزء أيضاً مسار مرعب من القضايا الخاصة بالسب والقذف باستخدام أي تسجيل صوتي لشخص يسب الآخر.
وعن حقوق الملكية الفكرية يقول الخبير في حديثه ل «المصري اليوم»، أن هناك مشكلة أكبر بكثير فيما يخص حقوق الملكية الفكرية، فبهذه الطريقة يمكن استخدام صوت عمرو دياب على سبيل المثال لإنتاج أغاني جديدة له دون علمه من الأساس.
وتابع: إنه للأسف مشاكله ومخاطره كبيرة جداً وهو ما دفع الشركة لإطلاق تصريح فوري تشير فيه إلى عدم نشر هذا النظام للجميع، وأنه حتى الآن مختصر لشركات محددة، إدراكنا ما يتسبب فيه من مخاطر،لكنه سيكون مفيداً على المدى البعيد لأمور مختلفة مثل الترجمة.
ويقول «البيه»: «أكيد سيكون لها فوائد لكن حتى هذه اللحظة فا مخاطرها مهولة، وإذا مكنش هناك قوانين تحكم هذا الانفتاح التكنولوجي الكبير فالموضوع سيكون صعب جداً، لكن حتى الآن الموضوع غير متاح للجميع، وتعتبر الأزمة الأكبر حالياً أن الناس لسا مش قادرة تواكب السرعة إلى ماشي بيها تطور التكنولوجيا، فيومياً هناك إصدارات جديدة وابتكارات أحدث، لا ينتهون من استيعاب واحدة حتى تنطلق أخرى».
بالمقابل أوضحت OpenAI في بيانها الرسمي أن استخدام الأداة سيكون محدوداً لتفادي تسجيل حوادث احتيال أو جرائم، مؤكدة أنها اعتمدت «نهجا حذرا» قبل نشر الأداة الجديدة على نطاق أوسع «بسبب احتمال إساءة استخدام الأصوات الاصطناعية».
وأضاف البيان «ندرك أن القدرة على توليد أصوات تشبه أصوات البشر خطوة تنطوي على مخاطر كبيرة، خصوصاً في عام الانتخابات هذا»، وتابع «نعمل مع شركاء أميركيين ودوليين من حكومات ووسائل إعلام ومجالات الترفيه والتعليم والمجتمع المدني وقطاعات أخرى، ونأخذ ملاحظاتهم في الاعتبار خلال عملية ابتكار الأداة».
ماركو ممدوح: تقنية سلبياتها أكثر من إيجابياتها
يقول دكتور الذكاء الاصطناعي بالجامعة الأمريكية ماركو ممدوح عن أخر تحديثات شركة Open AI ل «المصري اليوم»، أن هذه التقنية لا تعتبر ابتكار بالشكل الكامل، لأنها بالفعل موجودة منذ أكثر من عام لكنهم انتجوا برنامجهم الخاص وليست ابتكار لتقنية جديدة وهناك فرق. طيلة الفترة الماضية رأينا أمثلة عديدة لاستنساخ الأصوات ولا جديد يذكر من شركة Open AI بل يعتبروا آخر من صنع برنامجاً يستخدم أساليب وتقنيات استنساخ الأصوات.
وتابع «ممدوح»: ومن هنا نتطرق لجانبين من هذه التقنية بشكل عام بينهما جانب إيجابي والآخر سلبي.
فالإيجابي منه يتمثل في الاستخدام الصحيح لهذه التقنية، والتي أبتُكرت في الأصل لتحقيقه منذ أكثر من عامً ونصف تقريباً، وهو توفير الوقت والجهد على البشر.. فعلى سبيل المثال إذا كان لدى شركة معينة ملكية لصوت أو تعاون مع فويس أوفر، يمكنها استخدام نسخته الصوتية بدلاً من بقاءه ساعات طويلة في الاستديو، وهو ما يقلل كثيراً من التكلفة والجهد والوقت لإنتاج الأعمال الصوتية.
واستطرد: لكن هذه التقنية تعتبر سلبياتها أكثر من إيجابياتها؛ نظرًا لاستخدامها كأحد أهم أساليب النصب والاحتيال على الأشخاص العاديين، فيمكن من خلاله استنساخ الأصوات لارتكاب جرائم عدة لم يرتكبها صاحب الصوت الأساسي على أرض الواقع، مُتابعاً وغيرها كثيراً من السلبيات التي لا نُفضل توضيحها كلمةً كي لا تعتبر منبع إلهام للمحتالين، أو أفكار جديدة تعينهم على ارتكاب الأخطاء، لكن حتى الآن نحمد الله على عدم توافر تقنيات استنساخ الأصوات لدى الجميع فهي فقط مملوكة للشركات المختصة.