يحضر مارك زوكربيرج، الرئيس التنفيذي لشركة Meta، منتدى رؤية الذكاء الاصطناعي المشترك بين الحزبين في مجلس الشيوخ الأمريكي في مبنى الكابيتول الأمريكي في واشنطن العاصمة، في 13 سبتمبر 2023.
ستيفاني رينولدز | فرانس برس | صور جيتي
وفي تقريرها ربع السنوي الأخير حول التهديدات العدائية، ميتا قال يوم الخميس إن الصين تعد مصدرًا متزايدًا للنفوذ السري وحملات التضليل، والتي يمكن تعزيزها من خلال التقدم في الذكاء الاصطناعي التوليدي.
وقال ميتا في التقرير إن روسيا وإيران فقط تتفوقان على الصين عندما يتعلق الأمر بحملات السلوك الزائف المنسق، والتي تتضمن عادةً استخدام حسابات مستخدمين مزيفة وأساليب أخرى تهدف إلى “التلاعب بالنقاش العام لتحقيق هدف استراتيجي”.
وقالت شركة Meta إنها عطلت ثلاث شبكات CIB في الربع الثالث، اثنتان منها في الصين وواحدة في روسيا. كانت إحدى شبكات CIB الصينية عبارة عن عملية كبيرة تطلبت من Meta إزالة 4780 حسابًا على Facebook.
وقال ميتا فيما يتعلق بالشبكة الصينية: “استخدم الأفراد الذين يقفون وراء هذا النشاط حسابات مزيفة أساسية تحتوي على صور شخصية وأسماء منسوخة من أماكن أخرى على الإنترنت لنشر أشخاص من جميع أنحاء العالم وتكوين صداقات معهم”. “فقط جزء صغير من هؤلاء الأصدقاء يقيمون في الولايات المتحدة. لقد تظاهروا بأنهم أمريكيون لنشر نفس المحتوى عبر منصات مختلفة.”
ظهرت المعلومات المضللة على فيسبوك كمشكلة رئيسية قبل الانتخابات الأمريكية عام 2016، عندما تمكنت الجهات الفاعلة الأجنبية، وأبرزها من روسيا، من تأجيج المشاعر على الموقع، وذلك في المقام الأول بهدف تعزيز ترشيح المرشح آنذاك دونالد ترمب. منذ ذلك الحين، كانت الشركة تحت أكبر التدقيق لرصد تهديدات وحملات المعلومات المضللة وتوفير قدر أكبر من الشفافية للجمهور.
ميتا إزالة حملة تضليل سابقة متعلقة بالصين، كما هو مفصل في أغسطس. وقالت الشركة إنها أزالت أكثر من 7700 حساب فيسبوك مرتبط بشبكة CIB الصينية، والتي وصفتها في ذلك الوقت بأنها “أكبر عملية تأثير سرية معروفة عبر الأنظمة الأساسية في العالم”.
وإذا أصبحت الصين نقطة نقاش سياسي كجزء من الدورات الانتخابية المقبلة في جميع أنحاء العالم، قال ميتا “من المحتمل أن نشهد عمليات نفوذ مقرها الصين تتمحور لمحاولة التأثير على تلك المناقشات”.
وأضافت الشركة: “بالإضافة إلى ذلك، كلما ركزت المناقشات المحلية في أوروبا وأمريكا الشمالية على دعم أوكرانيا، كلما زاد احتمال أن نتوقع رؤية محاولات روسية للتدخل في تلك المناقشات”.
أحد الاتجاهات التي لاحظتها ميتا فيما يتعلق بحملات البنك التجاري الدولي هو الاستخدام المتزايد لمجموعة متنوعة من منصات على الانترنت مثل Medium وReddit وQuora، على عكس الجهات الفاعلة السيئة التي “تركز نشاطها وتنسيقها في مكان واحد”.
وقال ميتا إن التطوير يبدو مرتبطًا بـ “مواصلة المنصات الأكبر حجمًا الضغط على الجهات الفاعلة في مجال التهديد”، مما أدى إلى استخدام مثيري الشغب بسرعة لمواقع أصغر “على أمل مواجهة قدر أقل من التدقيق”.
وقالت الشركة صعود الذكاء الاصطناعي التوليدي يخلق تحديات إضافية عندما يتعلق الأمر بانتشار المعلومات المضللة، لكن ميتا قالت إنها “لم تر دليلاً على استخدام هذه التكنولوجيا من قبل عمليات التأثير السرية المعروفة لتقديم ادعاءات الاختراق والتسريب”.
لقد كان ميتا الاستثمار بشكل كبير في الذكاء الاصطناعي، وأحد استخداماته هو المساعدة في تحديد المحتوى، بما في ذلك الوسائط التي يتم إنشاؤها بواسطة الكمبيوتر، والتي يمكن أن تنتهك سياسات الشركة. وقالت ميتا إن ما يقرب من 100 شريك مستقل لتدقيق الحقائق سيساعدون في مراجعة أي محتوى مشكوك فيه تم إنشاؤه بواسطة الذكاء الاصطناعي.
وقال التقرير: “على الرغم من أن استخدام الذكاء الاصطناعي من قبل الجهات التهديدية المعروفة التي رأيناها حتى الآن كان محدودًا وغير فعال للغاية، إلا أننا نريد أن نظل يقظين ونستعد للرد مع تطور تكتيكاتهم”.
ومع ذلك، حذر ميتا من أن القادم انتخابات من المحتمل أن يعني أن “مجتمع المدافعين عبر مجتمعنا بحاجة إلى الاستعداد لحجم أكبر من المحتوى الاصطناعي”.
وقالت الشركة: “هذا يعني أنه مثلما قد يتسع نطاق المحتوى المخالف المحتمل، يجب أن تتوسع الدفاعات أيضًا، بالإضافة إلى الاستمرار في التنفيذ ضد السلوكيات العدائية التي قد تتضمن أو لا تتضمن نشر محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي”.
