في يوم الثلاثاء، أعلن حاكم ولاية كاليفورنيا جافين نيوسوم تم التوقيع على سياسات قانونية تهدف إلى وقف إنشاء وانتشار برامج التزييف العميق من GenAI خلال الانتخابات المتوترة لعام 2024، فضلاً عن التشريعات الأخرى. تضع القوانين الجديدة التي تحظر التزييف العميق، فضلاً عن أضرار التضليل المحتملة الأخرى، شركة X (المعروفة سابقًا باسم Twitter) والشبكات الاجتماعية الكبيرة الأخرى تحت الملاحظة. تحظر السياسة الجديدة إنشاء ونشر التزييف العميق المتعلق بالانتخابات لمدة 120 يومًا قبل يوم الانتخابات. كما تحظر التزييف العميق للانتخابات لمدة 60 يومًا التالية مباشرة.
في بيان، أشاد نيوسوم بالقانون كوسيلة لحماية الديمقراطية ونزاهة الانتخابات. يأتي هذا بعد أن شارك إيلون ماسك، مالك X والمدافع المعلن عن حرية التعبير، مقطع فيديو مزيفًا للمرشحة الرئاسية ونائبة الرئيس الحالية كامالا هاريس، مما جعل الأمر يبدو وكأنها تستخف بمؤهلاتها. وبينما ربما زعم ماسك أن الجمهور كان يعلم أنه مزحة، فإن سياسة نيوسوم تهدف إلى منع مثل هذه الرسائل المزيفة من رؤية ضوء النهار. قد لا يكون من الواضح كيف يؤثر الموقف القانوني لولاية كاليفورنيا على غرف الاجتماعات وقاعات المحاكم.
يقول بيري كاربنتر، كبير استراتيجيي إدارة المخاطر البشرية في KnowBe4: “الشيء الذي يتبادر إلى ذهني باستمرار هو تعقيد ما يحاولون القيام به. ربما يكونون على حق، لكنني لا أعرف ما إذا كانت هذه الجولة من التشريعات ستحظى بالفعالية التي يريدونها”. كاربنتر هو أيضًا مؤلف كتاب “FAIK: دليل عملي للعيش في عالم من التزييف العميق والمعلومات المضللة والخداع الناتج عن الذكاء الاصطناعي”.
إن القانون الذي يحظر مقاطع الفيديو المزيفة ذات الطابع الانتخابي قد دخل حيز التنفيذ بالفعل، ويشعر كاربنتر بالفضول لمعرفة كيف ستسير الأمور في العالم الحقيقي. “إذا أردنا أن نقول إن هذا التشريع ناجح بطريقة ما، فهو يفرض المناقشات، وأعتقد أن هذا مهم حقًا”.
يقول كاربنتر إن جزءًا من مشكلة التزييف العميق هو مدى سهولة إنشائه بفضل الذكاء الاصطناعي التوليدي، حتى مع المهارات الفنية المحدودة، مستشهدًا بالبحث الذي أجراه لكتابه. في الوقت الحالي، لا يتم توزيع التكنولوجيا اللازمة لإنشاء التزييف العميق بالتساوي. ويقول كاربنتر إنه إذا جاء اليوم الذي تتوفر فيه هذه التكنولوجيا في كل مكان في غضون بضع سنوات، فقد تصبح الحياة صعبة للغاية.
يقول كاربنتر: “التكنولوجيا موجودة، لكن ليس الجميع يعرف عنها بعد. يعرف الناس أنه من السهل حقًا إنشاء نسخة طبق الأصل من الصوت. من السهل حقًا إنشاء صورة خادعة وأحيانًا حتى إنشاء فيديو خادع”. على الرغم من أن خبراء التكنولوجيا يدركون هذا، يقول كاربنتر إن المجتمع نفسه لا يزال يعتقد إلى حد كبير أن التزييف العميق ليس فعالاً في خداع الناس – وأن هناك دائمًا نوعًا من “المؤشر” الذي يمكن أن يحدد التزييف العميق.
ومع ذلك، حتى مع التحذير المسبق من المحتوى المزيف والمختلق، يقول إن الناس لا يتمكنون من اكتشاف المحتوى المزيف إلا في حوالي 21.3% من الوقت، مع نسبة مماثلة تقريبًا من الأشخاص الذين ينسبون هذا المحتوى بشكل خاطئ. ويقول كاربنتر: “هذا يعني أننا وصلنا بالفعل إلى نقطة التقاطع حيث لا يعرف الناس ما هو حقيقي وما هو غير حقيقي”.
قد لا يكون التنقل في مثل هذه المساحة الغامضة ومراقبتها، حتى مع القوانين الجديدة في كاليفورنيا، أمرًا بسيطًا. يقول: “إن إمكانية التنفيذ غامضة حقًا، حقًا”. إن ثلاثة أيام لمنصة لإزالة محتوى الانتخابات المزيف العميق هي فترة طويلة جدًا وفقًا لمقياس كاربنتر في النظام البيئي الحالي للمعلومات. “في الوقت نفسه، لا يزال من الصعب جدًا على المنصة تنفيذها. إذا كنت ستجعلها أقصر من ذلك، فهي لا تتعامل مع الواقع الذي نعيشه، وهو أن المعلومات الكاذبة على الإنترنت تنتشر أسرع بخمس عشرة مرة على الأقل من المعلومات الحقيقية”.
ويقول كاربنتر إنه بحلول الوقت الذي يتم فيه نشر التصحيحات الخاصة بالمحتوى المزيف العميق، ربما يكون الأفراد قد حددوا معتقداتهم بالفعل أو اتخذوا إجراءات بناءً على هذا المحتوى المزيف.
وتخضع الشركات، وخاصة المنصات التي تعمل على نشر المحتوى ومشاركته، لتدقيق أكثر صرامة في ظل الإجراءات السياسية الجديدة التي اتخذتها كاليفورنيا، لكن كاربنتر يعتقد أن هذه الشركات تبذل بالفعل بعض الجهود لوقف موجة الأكاذيب الرقمية. ويقول: “إذا كنت تتحدث عن منصات التواصل الاجتماعي، فإن العديد منها تريد أن تفعل الشيء الصحيح. ولدى فيسبوك قسم ضخم يعمل على الثقة والسلامة، وهم يحاولون بناء خوارزميات للبقاء على رأس الأمور، لذا فهم يستحقون على الأقل بعض التقدير”.
إن القصة في X (المعروف سابقًا باسم Twitter) مختلفة بعض الشيء.
يقول كاربنتر: “قبل تولي إيلون ماسك منصبه، كان هناك فريق ضخم من الموظفين الذين يعملون في تويتر، ثم قام بتعديلهم جميعًا. لذا، لا يحظى تويتر بالضرورة بالاحترام في محاولة القيام بالأشياء الصحيحة، ولكنك تراهم يحذفون الأشخاص من المنصة بين الحين والآخر إذا كانوا يقومون بأشياء فظيعة للغاية، لكنهم قرروا داخليًا أن عتبة ذلك أعلى بكثير مما أعتقد أن غالبية السكان يرغبون في أن تكون عليه”.
في حين أن مستخدمي X قد يكونون على دراية بما سيواجهونه من خلال الاستمرار في استخدام هذه المنصة، فإن التفاوت المحتمل بين المنصات قد يجلب الاضطراب. على سبيل المثال، يلاحظ كاربنتر أن المحتوى المسموح بإنشائه على X قد تتم إعادة مشاركته على منصات أخرى مع مستخدمين ليسوا على استعداد لرؤية وتمييز مثل هذا المحتوى. حتى لو تمت إزالة مثل هذه التزييفات العميقة في النهاية، فقد يكون التأثير محسوسًا بالفعل. يسأل كاربنتر: “لديهم 72 ساعة للرد على ذلك قبل أن يضطروا إلى إزالته، ولكن كم عدد العقول التي تأثرت بها خلال ذلك الوقت؟”
