من المقرر أن يكون عام 2024 أكبر عام انتخابي عالمي في التاريخ. ويتزامن ذلك مع الارتفاع السريع في التزييف العميق. وفي منطقة آسيا والمحيط الهادئ وحدها، كانت هناك زيادة في التزييف العميق بنسبة 1530% في الفترة من 2022 إلى 2023، وفقًا لتقرير Sumsub.
رابط التصوير | إستوك | صور جيتي
قبل الانتخابات الإندونيسية في 14 فبراير، أ فيديو انتشر على نطاق واسع خطاب الرئيس الإندونيسي الراحل سوهارتو وهو يدافع عن الحزب السياسي الذي كان يرأسه ذات يوم.
حقق مقطع الفيديو المزيف العميق الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي استنسخ وجهه وصوته 4.7 مليون مشاهدة على X وحده.
لم يكن هذا حادثا لمرة واحدة.
وفي باكستان، ظهر تزييف عميق لرئيس الوزراء السابق عمران خان حول الانتخابات الوطنية، معلنًا أن حزبه سيقاطعها. وفي الوقت نفسه، في الولايات المتحدة، سمع الناخبون في نيو هامبشاير مقطعًا مزيفًا للرئيس جو بايدن يطلب منهم عدم التصويت في الانتخابات التمهيدية الرئاسية.
أصبحت التزييف العميق للسياسيين شائعة بشكل متزايد، خاصة مع الاستعداد لعام 2024 ليكون أكبر عام انتخابي عالمي في التاريخ.
يقال، على الأقل 60 البلدان وأكثر من أربعة مليارات شخص سيصوتون لاختيار قادتهم وممثليهم هذا العام، مما يجعل التزييف العميق مسألة مثيرة للقلق الشديد.
وفقا ل تقرير Sumsub في نوفمبرارتفع عدد عمليات التزييف العميق في جميع أنحاء العالم بمقدار 10 مرات من عام 2022 إلى عام 2023. وفي منطقة آسيا والمحيط الهادئ وحدها، ارتفعت عمليات التزييف العميق بنسبة 1530% خلال نفس الفترة.
وشهدت وسائل الإعلام عبر الإنترنت، بما في ذلك المنصات الاجتماعية والإعلانات الرقمية، أكبر ارتفاع في معدل الاحتيال في الهوية بنسبة 274% بين عامي 2021 و2023. وكانت الخدمات المهنية والرعاية الصحية والنقل وألعاب الفيديو أيضًا من بين الصناعات التي تأثرت بالاحتيال في الهوية.
وقال سايمون تشيسترمان، المدير الأول لحوكمة الذكاء الاصطناعي في منظمة العفو الدولية في سنغافورة، إن آسيا ليست مستعدة للتعامل مع التزييف العميق في الانتخابات من حيث التنظيم والتكنولوجيا والتعليم.
فيه تقرير التهديد العالمي لعام 2024أفادت شركة الأمن السيبراني Crowdstrike أنه مع عدد الانتخابات المقررة هذا العام، من المرجح جدًا أن تقوم الجهات الفاعلة في الدول القومية، بما في ذلك من الصين وروسيا وإيران، بحملات تضليل أو تضليل لزرع الاضطراب.
وقال تشيسترمان: “التدخلات الأكثر جدية ستكون إذا قررت إحدى القوى الكبرى أنها تريد تعطيل الانتخابات في بلد ما – ومن المحتمل أن يكون ذلك أكثر تأثيراً من تلاعب الأحزاب السياسية على الهامش”.
على الرغم من أن العديد من الحكومات لديها أدوات (لمنع الأكاذيب عبر الإنترنت)، إلا أن القلق هو أن الجني سيخرج من القمقم قبل أن يكون هناك وقت لإعادته إلى الداخل.
سيمون تشيسترمان
مدير كبير لمنظمة العفو الدولية سنغافورة
ومع ذلك، قال إن معظم التزييف العميق سيتم إنشاؤه بواسطة جهات فاعلة داخل البلدان المعنية.
وقالت كارول سون، زميلة الأبحاث الرئيسية ورئيسة قسم المجتمع والثقافة في معهد دراسات السياسة في سنغافورة، إن الجهات الفاعلة المحلية قد تشمل أحزاب المعارضة والمعارضين السياسيين أو اليمينيين المتطرفين واليساريين.
مخاطر التزييف العميق
قال سون، على الأقل، إن التزييف العميق يلوث النظام البيئي للمعلومات ويجعل من الصعب على الأشخاص العثور على معلومات دقيقة أو تكوين آراء مستنيرة حول حزب أو مرشح.
وقال تشيسترمان إن الناخبين قد ينفرون أيضًا من مرشح معين إذا رأوا محتوى يتعلق بقضية فاضحة ينتشر بسرعة قبل أن يتم فضحه باعتباره مزيفًا. “على الرغم من أن العديد من الحكومات لديها أدوات (لمنع الأكاذيب عبر الإنترنت)، إلا أن القلق هو أن الجني سيخرج من القمقم قبل أن يكون هناك وقت لإعادته إلى الداخل”.
“لقد رأينا مدى السرعة التي يمكن بها الاستيلاء على X بواسطة الإباحية المزيفة العميقة وقال: “بما في ذلك تايلور سويفت – هذه الأشياء يمكن أن تنتشر بسرعة لا تصدق”، مضيفًا أن التنظيم غالبًا ما يكون غير كافٍ ويصعب تنفيذه بشكل لا يصدق. “وغالبًا ما يكون ذلك متأخرًا جدًا”.
قال آدم مايرز، رئيس عمليات مكافحة الخصوم في CrowdStrike، إن التزييف العميق قد يؤدي أيضًا إلى إثارة التحيز التأكيدي لدى الأشخاص: “حتى لو كانوا يعرفون في قلوبهم أن هذا ليس صحيحًا، وإذا كانت هذه هي الرسالة التي يريدونها والشيء الذي يريدون الإيمان به، فإنهم سيفعلون ذلك”. لن ندع ذلك يذهب.”
وقال تشيسترمان أيضًا إن اللقطات المزيفة التي تظهر سوء السلوك أثناء الانتخابات، مثل حشو أوراق الاقتراع، يمكن أن تجعل الناس يفقدون الثقة في شرعية الانتخابات.
على الجانب الآخر، قد ينكر المرشحون الحقيقة عن أنفسهم التي قد تكون سلبية أو غير سارة، وينسبون ذلك إلى التزييف العميق بدلاً من ذلك، على حد قول سون.
من ينبغي أن يكون مسؤولا؟
وقال تشيسترمان إن هناك إدراكًا الآن أن منصات وسائل التواصل الاجتماعي بحاجة إلى تحمل المزيد من المسؤولية بسبب الدور شبه العام الذي تلعبه.
في فبراير، شاركت 20 شركة تكنولوجية رائدة، بما في ذلك مايكروسوفت, ميتا, جوجل, أمازون, آي بي إم بالإضافة إلى شركة OpenAI الناشئة في مجال الذكاء الاصطناعي وشركات التواصل الاجتماعي مثل فرقعة، أعلن TikTok و X عن الالتزام المشترك لمكافحة الاستخدام الخادع للذكاء الاصطناعي في الانتخابات هذا العام.
وقال سون إن الاتفاق التكنولوجي الذي تم التوقيع عليه يمثل خطوة أولى مهمة، لكن فعاليته ستعتمد على التنفيذ والتنفيذ. وقالت إنه مع اعتماد شركات التكنولوجيا تدابير مختلفة عبر منصاتها، هناك حاجة إلى نهج متعدد الجوانب.
وأضاف سون أنه سيتعين على شركات التكنولوجيا أيضًا أن تكون شفافة للغاية بشأن أنواع القرارات التي يتم اتخاذها، على سبيل المثال، أنواع العمليات التي يتم تنفيذها.
لكن تشيسترمان قال إنه من غير المعقول أيضًا أن نتوقع من الشركات الخاصة أن تنفذ ما يعتبر في الأساس وظائف عامة. وأضاف أن تحديد المحتوى الذي سيتم السماح به على وسائل التواصل الاجتماعي هو أمر صعب التنفيذ، وقد تستغرق الشركات أشهرًا لاتخاذ القرار.
وأضاف تشيسترمان: “لا ينبغي لنا أن نعتمد فقط على النوايا الحسنة لهذه الشركات”. “لهذا السبب يجب وضع اللوائح التنظيمية وتحديد التوقعات لهذه الشركات.”
ولتحقيق هذه الغاية، قدم التحالف من أجل مصدر المحتوى والأصالة (C2PA)، وهو منظمة غير ربحية، بيانات الاعتماد الرقمية للمحتوى، والتي ستعرض للمشاهدين معلومات تم التحقق منها مثل معلومات المنشئ، ومكان وزمان إنشائها، بالإضافة إلى ما إذا كان الذكاء الاصطناعي التوليدي قد تم استخدامه لإنشاء المادة.
تشمل الشركات الأعضاء في C2PA Adobe وMicrosoft وGoogle وIntel.
أعلنت OpenAI أنها ستكون كذلك تنفيذ بيانات اعتماد محتوى C2PA للصور التي تم إنشاؤها باستخدام عرض DALL · E 3 في وقت مبكر من هذا العام.
“أعتقد أنه سيكون أمرًا فظيعًا إذا قلت: “أوه نعم، أنا لست قلقًا. أشعر بالارتياح. مثلًا، سيتعين علينا مراقبة هذا عن كثب نسبيًا هذا العام [with] مراقبة مشددة للغاية [and] ردود فعل ضيقة للغاية.
في مقابلة أجرتها بلومبرج هاوس في المنتدى الاقتصادي العالمي في يناير، قال سام ألتمان، المؤسس والرئيس التنفيذي لشركة OpenAI كانت الشركة “مركزة تمامًا” على ضمان عدم استخدام التكنولوجيا الخاصة بها للتلاعب بالانتخابات.
وقال: “أعتقد أن دورنا مختلف تمامًا عن دور منصة التوزيع” مثل موقع التواصل الاجتماعي أو ناشر الأخبار. “علينا أن نعمل معهم، لذا يبدو الأمر كما لو أنك تولد هنا وتوزع هنا. ويجب أن تكون هناك محادثة جيدة بينهما.”
اقترح مايرز إنشاء كيان تقني غير ربحي من الحزبين الجمهوري والديمقراطي مهمته الوحيدة هي تحليل وتحديد التزييف العميق.
وقال: “يمكن للجمهور بعد ذلك أن يرسل إليهم المحتوى الذي يشتبهون في أنه تم التلاعب به”. “إنها ليست مضمونة ولكن على الأقل هناك نوع من الآلية التي يمكن للناس الاعتماد عليها.”
ولكن في نهاية المطاف، على الرغم من أن التكنولوجيا جزء من الحل، إلا أن جزءًا كبيرًا منها يعود إلى المستهلكين، الذين ما زالوا غير مستعدين، كما يقول تشيسترمان.
وسرعان ما سلط الضوء أيضا على أهمية تثقيف الجمهور.
وقالت: “نحن بحاجة إلى مواصلة جهود التواصل والمشاركة لزيادة الشعور باليقظة والوعي عندما يحصل الجمهور على معلومات”.
يتعين على الجمهور أن يكون أكثر يقظة؛ وقالت إنه إلى جانب التحقق من الحقائق عندما يكون هناك شيء مريب للغاية، يحتاج المستخدمون أيضًا إلى التحقق من صحة الأجزاء المهمة من المعلومات خاصة قبل مشاركتها مع الآخرين.
قال سون: “هناك شيء يجب على الجميع القيام به”. “الأمر كله على سطح السفينة.”
– ساهم ماكينزي سيجالوس وريان براون من سي إن بي سي في إعداد هذا التقرير.
