فشل Instagram في إزالة التعليقات السامة الموجهة إلى نائبة الرئيس كامالا هاريس وغيرها من السياسيات الرائدات من خلال تطبيقها مع اقتراب موعد الانتخابات في عام 2024، وفقًا لبحث أجراه مركز مكافحة الكراهية الرقمية.
وتقوم مجموعة المناصرة غير الربحية بتحليل منصات الإنترنت الكبيرة لمعرفة ما إذا كانت تراقب مواقعها بشكل صحيح بحثًا عن خطاب الكراهية. واستند التقرير الصادر يوم الأربعاء إلى تحليل 560 ألف تعليق على منشورات Instagram من خمس سياسيات جمهوريات وخمس سياسيات ديمقراطيات يتمتعن بمستويات عالية من المشاركة.
ومن بين السياسيين الذين تعقبتهم المجموعة هاريس، التي أصبحت الآن مرشحة الحزب الديمقراطي للرئاسة، والنائبة ألكسندريا أوساكيو كورتيز، والنائبة جاسمين كروكيت، ديمقراطية من تكساس، بالإضافة إلى عضوتي مجلس النواب الجمهوريتين مارغوري تايلور جرين من جورجيا ولورين بويبرت من كولورادو.
ومن بين التعليقات المنشورة بين الأول من يناير والسابع من يونيو، حدد الباحثون أكثر من 20 ألف تعليق اعتبروها “سامة” جوجل أداة تعديل المحتوى من Perspective AI. ثم أجرى الباحثون تحليلًا يدويًا واكتشفوا 1000 تعليق “تنتهك بوضوح شروط Instagram”، وفقًا لما قاله الرئيس التنفيذي لـ CCDH عمران أحمد خلال إفادة إعلامية يوم الثلاثاء.
وقال أحمد خلال الإحاطة: “يمكن تلخيص توصياتنا بكل بساطة، حيث يتعين على إنستغرام تطبيق سياساتها المصممة لحماية النساء في الحياة العامة. ويجب أن تكون المنظمات مجهزة بشكل أفضل لدعم المرشحات اللاتي يتعرضن للإساءة وتزويدهن بأفضل الممارسات للتعامل معها في كثير من الأحيان”.
تعرضت شركة ميتا، الشركة الأم لإنستغرام، لانتقادات شديدة من المشرعين بسبب فشلها في معالجة انتشار المحتوى البغيض عبر مجموعة تطبيقاتها وعدم قدرتها أو عدم رغبتها في اتخاذ إجراءات صارمة ضد المحتوى الضار. سلوكزعم المدعي العام لولاية نيو مكسيكو في تحقيق مستمر دعوى قضائية اتهمت شركة Meta بفشلها في حماية المستخدمين القاصرين من الحيوانات المفترسة والاستغلال الجنسي.
وفي دورات انتخابية سابقة، كان فيسبوك أيضًا مركزًا لنشر المعلومات المضللة والمحتوى السام الموجه إلى المرشحين السياسيين.
وذكر التقرير أن بعض التعليقات الإشكالية التي التقطتها لجنة حقوق الإنسان في ولاية ألاباما تضمنت تصريحات مثل “جعل الاغتصاب قانونيًا” و”لا نريد السود حولنا بغض النظر عمن هم”. وسخر أحد التعليقات الموجهة إلى هاريس من خلفيتها العرقية، بينما دعا تعليق آخر إلى الاعتداء عليها جنسيًا من قبل الشرطة. الرئيس جو بايدن.
وبعد ذلك، استخدم باحثو مركز حقوق الإنسان في إنستغرام أدوات الإبلاغ عن المحتوى الخاصة به لتحديد التعليقات المسيئة البالغ عددها 1000 والتي اكتشفها يدويًا. وبعد أسبوع، “لم يتخذ إنستغرام أي إجراء ضد 926 منها، وهو ما يعادل الفشل في التصرف بشأن 93% منها”، وفقًا للتقرير.
ميتا قالت شركة جوجل في بيان إنها ستراجع الأمثلة التي سلطت عليها CCDH الضوء وستزيل التعليقات التي تنتهك سياسات الشركة، لكنها أضافت أن بعض المحتوى قد يكون مسيئًا ولكنه لا ينتهك قواعدها. كما قالت الشركة إن أداة الذكاء الاصطناعي من جوجل التي اعتمدت عليها CCDH في جزء من بحثها ليست دقيقة دائمًا، مستشهدة بصفحة موارد جوجل.
وقالت سيندي ساوثورث، رئيسة قسم سلامة المرأة في شركة ميتا، في بيان: “نحن نوفر أدوات تمكن أي شخص من التحكم في من يمكنه التعليق على منشوراته، وتصفية التعليقات أو العبارات أو الرموز التعبيرية المسيئة تلقائيًا، وإخفاء التعليقات تلقائيًا عن الأشخاص الذين لا يتابعونها”. وأضافت: “نحن نعمل مع مئات الشركاء في مجال السلامة حول العالم لتحسين سياساتنا وأدواتنا واكتشافنا وإنفاذنا بشكل مستمر، وسنراجع تقرير CCDH ونتخذ إجراءات بشأن أي محتوى ينتهك سياساتنا”.
وفيما يتعلق بالتعليق العنصري الموجه إلى هاريس، تلقى أحد الباحثين في مركز حقوق الإنسان في نهاية المطاف إشعارًا على إنستغرام يفيد بأن المنشور “لا يتعارض مع إرشادات مجتمعنا”، حسبما جاء في التقرير. وذكر التقرير أيضًا أن أكثر من خُمس التعليقات المسيئة البالغ عددها 1000 والتي حددها الباحثون جاءت من “مجرمين متكررين نشروا إساءة مرتين على الأقل”.
يأتي التقرير على موقع إنستغرام بعد أشهر قليلة من حكم قاضٍ فيدرالي في كاليفورنيا تم طرده أ دعوى قضائية ضد المجلس الاستشاري لحقوق الإنسان ايلون ماسك X. تم رفع الدعوى بعد وقت قصير من نشر المجموعة بحثًا يظهر زيادة في خطاب الكراهية في أعقاب استحواذ ماسك على الموقع المعروف سابقًا باسم تويتر.
وبسبب كل الاهتمام السلبي الذي تدفق نحو ماسك، فقد أفلتت شركة ميتا والرئيس التنفيذي مارك زوكربيرج من التدقيق في الآونة الأخيرة، وهناك تصور بأن إنستغرام “أصبح منصة يشعر الناس بالأمان” عند استخدامها، كما قال أحمد.
“مارك زوكربيرج وقال أحمد “لقد لعب إكس استراتيجية تتمثل في إبقاء رأسه منخفضا بينما كان يعمل كقضيب صاعق لكثير من الغضب تجاه السمية في الحياة العامة والخطاب السياسي. أردنا أن ننظر على وجه التحديد إلى هذه المنصة لمعرفة ما إذا كانوا يدعمون بالفعل بعض شماتهم بمصائب إكس بأفعال من جانبهم أم لا”.
