في مارس ، بدا أن العديد من منشئي محتوى YouTube يتلقون مقطع فيديو خاص من الرئيس التنفيذي للمنصة ، نيل موهان. اتضح أنه لم يكن موهان في الفيديو ، بل نسخة تم إنشاؤها من الذكاء الاصطناعى الذي أنشأه المحتالون سرقة بيانات الاعتماد وتثبيت البرامج الضارة. قد يثير هذا ذكريات أخرى من عمليات الاحتيال الحديثة التي تعمل بمنظمة العفو الدولية. في العام الماضي ، حث Robocalls الذي يضم صوت الرئيس جو بايدن على عدم التصويت في الانتخابات التمهيدية. استفادت المكالمات منظمة العفو الدولية لتقليد صوت بايدن، تقارير أخبار AP.
تظهر أمثلة على هذه الأنواع من DeepFakes – الفيديو والصوت – في الأخبار بشكل متكرر. تقارير المستهلك غير الربحية استعرض ستة تطبيقات استنساخ الصوت والتقارير أن أربعة من هذه التطبيقات ليس لديها درابزين مهمة تمنع المستخدمين من استنساخ صوت شخص ما دون موافقتهم.
غالبًا ما يكون المديرون التنفيذيون هم الوجوه العامة وأصوات شركاتهم ؛ الصوت والفيديو للمديرين التنفيذيين ، مديري تقنية المعلومات ، وغيرهم من أعضاء C-Suite متاحون بسهولة عبر الإنترنت. إلى أي مدى يجب أن تكون مديري المعلومات والموارد البشرية وغيرهم من قادة تقنية المؤسسات حول استنساخ الصوت وغيرها من العميق؟
نقص في الدرابزين
elevenlabs ، و Lovo ، و Playht ، و Compleseify – أربعة من مراجعات المستهلكين التي تم تقييمها – اطلب من المستخدمين تحديد مربع يؤكد أن لديهم الحق القانوني في المضي قدمًا في إمكانات استنساخهم الصوتي. الوفاة والتشبه الذكاء الاصطناعى تأخذ موافقة خطوة إلى الأمام من خلال مطالبة المستخدمين بقراءة وتسجيل بيان الموافقة ، وفقا لتقارير المستهلك.
الحواجز التي تحول دون إساءة استخدام هذه التطبيقات منخفضة للغاية. حتى بالنسبة للتطبيقات التي تتطلب من المستخدمين قراءة بيان يمكن معالجتها بواسطة الصوت الذي تم إنشاؤه بواسطة استنساخ صوت غير متساو على منصة أخرى ، فإن مراجعة تقارير المستهلك.
لا يمكن للمستخدمين استخدام العديد من التطبيقات المتاحة بسهولة لاستنساخ صوت شخص ما دون موافقتهم ، بل لا يحتاجون إلى مهارات فنية للقيام بذلك.
يقول بن كولمان ، المؤسس المشارك والمدير التنفيذي لشركة Deepfake Detection Company: “لا توجد خلفية CS ، ولا درجة الماجستير ، ولا حاجة للبرمجة ، أو توجه حرفيًا إلى متجر التطبيق مدافع الواقع.
يلاحظ كولمان أيضًا أن تكاليف حساب انخفضت بشكل كبير خلال الأشهر القليلة الماضية. قبل عام كنت بحاجة إلى حساب السحابة. الآن ، يمكنك القيام بذلك على جهاز كمبيوتر محمول سلع أو هاتف “.
لا تزال مسألة تنظيم الذكاء الاصطناعي في الهواء. هل يمكن أن يكون هناك المزيد من الدرابزين لهذه الأنواع من التطبيقات في المستقبل؟ كولمان واثق من أنه سيكون هناك. أعطى شهادة قبل اللجنة الفرعية القضائية في مجلس الشيوخ حول الخصوصية والتكنولوجيا والقانون المتعلق بمخاطر العميق في الانتخابات.
يقول كولمان لـ Informationweek: “إن التحديات والمخاطر التي أنشأتها الذكاء الاصطناعى التوليدي هي مصدر قلق حقيقي”. “نحن متفائلون للغاية بشأن الدرابزين على المدى القريب.”
مخاطر الاستنساخ الصوتي
على الرغم من أن المزيد من الدرابزين قد تكون وشيكة ، سواء كان ذلك من خلال تنظيم أو قوة دافعة أخرى ، يتعين على قادة المؤسسات مواجهة مخاطر الاستنساخ الصوتي وغيرها من العميق اليوم.
يقول القاضي إيرولين ، CTO ، CTO ، CTO ، “إن العبء على الدخول منخفض للغاية في الوقت الحالي لدرجة أن أصوات الذكاء الاصطناع بيرسديف، شركة الاستعانة بمصادر خارجية للبرمجيات. “ولأنه لا توجد ضمانات في الصناعة ، فإنه يترك معظم الشركات في خطر.”
حماية ضد الاحتيال
إن الدفاع الواضح في الخطوط الأمامية للدفاع ضد الاستنساخ الصوتي هو الحد من مشاركة البيانات الشخصية ، مثل الطباعة الصوتية الخاصة بك. كلما كان من الصعب العثور على صوت يضم صوتك ، كلما كان من الصعب استنساخه. “يجب ألا يشاركوا البيانات الشخصية أو الصوت أو الوجه ، لكن الأمر يمثل تحديًا للمديرين التنفيذيين. على سبيل المثال ، أنا على YouTube. أنا على الأخبار. يقول كولمان: “إنها مجرد تكلفة لممارسة الأعمال التجارية”.
يجب أن تعمل CIOs في حقائق العالم الرقمي ، مع العلم أن قادة المؤسسات سيكون لديهم صوت متاح للجمهور بحيث يمكن للمخادعين محاولة التعبير عن الاستنساخ واستخدامه في النهايات الشائنة.
“استنساخ صوت الذكاء الاصطناعي ليس خطرًا مستقبليًا. إنه خطر هنا اليوم. يقول إرولين: “أود أن أعاملها مثل أي تهديد إلكتروني آخر: مع مصادقة قوية”.
بالنظر إلى مخاطر الاستنساخ الصوتي ، فإن الصوت وحده للمصادقة محفوف بالمخاطر. إن اعتماد مصادقة متعددة العوامل يمكن أن يخفف من هذا الخطر. يمكن أن يساعد تمكين كلمات المرور أو المسامير أو القياسات الحيوية مع الصوت في ضمان أنك تتحدث إلى الشخص الذي تعتقد أنك ، وليس شخصًا استنساخ صوتهم أو شبهه.
التوقعات للكشف
الكشف هو أداة أساسية في مكافحة الاستنساخ الصوتي. يشبه كولمان تطوير أدوات اكتشاف DeepFake لتطوير المسح المضاد للفيروسات ، والذي يتم ذلك محليًا ، في الوقت الفعلي على الأجهزة.
“أود أن أقول الكشف العميق [has] يشرح كولمان أن نفس قصة النمو بالضبط. “في العام الماضي ، كان اختيار الملفات التي تريد مسحها ، وهذا العام ، إنه اختيار موقع معين ، ومسح كل شيء. ونحن نتوقع خلال العام المقبل ، سننتقل تمامًا على الجهاز. “
يمكن دمج أدوات الكشف على الأجهزة ، مثل الهواتف وأجهزة الكمبيوتر ، وفي منصات مؤتمرات الفيديو لاكتشافها عند إنشاء أو معالجة الصوت من قبل AI. تعمل Defender Reality على الطيارين من أدواته مع البنوك ، على سبيل المثال ، في البداية مع مراكز الاتصال وتقنية الاستجابة الصوتية التفاعلية (IVR).
يقول كولمان: “أعتقد أننا سننظر إلى الوراء في هذه الفترة في غضون بضع سنوات ، تمامًا مثل مكافحة الفيروسات ، ونقول ،” هل يمكنك أن تتخيل … عالم لم نتحقق فيه من الذكاء الاصطناعي؟ “
مثل أي قلق آخر للأمن السيبراني ، سيكون هناك شد حرب بين تصاعد قدرات Deepfake في أيدي الجهات الفاعلة التهديد وقدرات الكشف في أيدي المدافعين. سيتم الطعن في مديري تقنية المعلومات وغيرهم من قادة الأمن لتنفيذ ضمانات وتقييم تلك القدرات ضد تلك الموجودة في المحتالين.
