يجب على شركات وسائل التواصل الاجتماعي تنفيذ عمليات فحص فعالة للعمر و”ترويض الخوارزميات السامة” التي توصي بالمحتوى الضار للأطفال، وفقًا لقواعد ممارسات السلامة الجديدة الخاصة بـ Ofcom.
نشرته Ofcom في 8 أبريل 2024، رموز سلامة الأطفال تحتوي على أكثر من 40 إجراءً مصممًا لمساعدة شركات وسائل التواصل الاجتماعي على الامتثال للالتزامات القانونية الجديدة المفروضة عليها بموجب قانون السلامة على الإنترنت (OSA) لحماية الأشخاص الذين تقل أعمارهم عن 18 عامًا الذين يستخدمون خدماتها.
صدر في أكتوبر 2023، فإن الالتزامات التي فرضها OSA على المنصات الرقمية تعني أنه يجب عليه منع الأطفال من الوصول إلى محتوى ضار أو غير مناسب لعمرهم (مثل المواد الإباحية أو المنشورات التي تروج لإيذاء النفس)؛ وفرض حدود السن وتنفيذ تدابير التحقق من السن؛ وإجراء تقييمات للمخاطر التي يتعرض لها الأطفال من خلال خدماتهم.
ويتضمن أيضًا الالتزام بإزالة المحتوى غير القانوني بسرعة أو منعه من الظهور في المقام الأول.
وبموجب هذه القواعد، تتوقع Ofcom أن تقوم أي خدمات إنترنت يمكن للأطفال الوصول إليها (بما في ذلك شبكات التواصل الاجتماعي ومحركات البحث) بإجراء فحوصات صارمة للعمر؛ لتكوين خوارزمياتهم لتصفية المحتوى الأكثر ضررًا من خلاصات هؤلاء الأطفال؛ وتنفيذ عمليات الإشراف على المحتوى التي تضمن اتخاذ إجراءات سريعة ضد هذا المحتوى.
“تماشيًا مع قوانين السلامة الجديدة عبر الإنترنت، تضع قواعدنا المقترحة مسؤولية الحفاظ على أمان الأطفال على عاتق شركات التكنولوجيا. وقالت ميلاني دوز، الرئيس التنفيذي لشركة Ofcom: “سيتعين عليهم ترويض الخوارزميات العدوانية التي تدفع المحتوى الضار للأطفال في خلاصاتهم الشخصية، وإدخال عمليات فحص للعمر حتى يحصل الأطفال على تجربة مناسبة لأعمارهم”.
“إن إجراءاتنا – التي تتجاوز معايير الصناعة الحالية – ستؤدي إلى تغيير جذري في أمان الأطفال عبر الإنترنت في المملكة المتحدة. وبمجرد دخولها حيز التنفيذ، لن نتردد في استخدام نطاقنا الكامل من صلاحيات التنفيذ لمحاسبة المنصات. هذا هو الوعد الذي نقطعه على أنفسنا للأطفال والآباء اليوم.
تتضمن مسودة الرموز أيضًا تدابير لضمان امتثال شركات التكنولوجيا، بما في ذلك عن طريق تعيين شخص كبير مسؤول عن الامتثال لواجبات سلامة الأطفال؛ ومراجعة سنوية من جانب الهيئة العليا لجميع أنشطة إدارة المخاطر المتعلقة بسلامة الأطفال؛ ومدونة قواعد سلوك الموظفين التي تحدد معايير للموظفين فيما يتعلق بحماية الأطفال.
وقالت Ofcom إنها ستطلق مشاورة إضافية في وقت لاحق من هذا العام حول كيفية استخدام الأدوات الآلية، بما في ذلك الذكاء الاصطناعي (AI). يُستخدم للكشف بشكل استباقي عن المحتوى غير القانوني والمحتوى الأكثر ضررًا للأطفال، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM) التي لم يتم اكتشافها سابقًا والمحتوى الذي يشجع على الانتحار وإيذاء النفس.
وتجري الآن مشاورة مفتوحة بشأن مسودات القوانين، مع خطط لوضع اللمسات النهائية على المسودات في غضون عام ودخولها حيز التنفيذ بعد ثلاثة أشهر.
قالت شركة Digital: “لقد كلفت الحكومة Ofcom بتنفيذ القانون، واليوم كانت الجهة التنظيمية واضحة: يجب على المنصات تقديم أنواع عمليات التحقق من العمر التي يواجهها الشباب في العالم الحقيقي ومعالجة الخوارزميات التي تعني بسهولة أنهم يصادفون مواد ضارة عبر الإنترنت”. سكرتيرة ميشيل دونيلان. “بمجرد تطبيقها، ستحدث هذه الإجراءات تغييرًا جوهريًا في كيفية تجربة الأطفال في المملكة المتحدة لعالم الإنترنت.”
قال تامسين ألين، الشريك الإعلامي في شركة المحاماة Bindmans، إن مقترحات Ofcom هي “خطوة أولى مشجعة، لكن الدليل على التزامهم سيكون في رغبتهم في فرض عقوبات على شركات التكنولوجيا الكبرى بسبب فشل الامتثال. ويمنحهم القانون صلاحيات جديدة لتغريم الشركات بما يصل إلى 10% من حجم مبيعاتها العالمية، وهي مبالغ ضخمة يمكن أن تخترق أخيرًا درع شركات التكنولوجيا الكبرى.
المخاوف المستمرة
ومع ذلك، فقد أثار قانون OSA قلقًا بين كل من شركات التكنولوجيا ومنظمات المجتمع المدني بشأن بعض الأحكام التي يمكن أن تقوض الاتصالات المشفرة والخصوصية والبيانات. حرية التعبير.
على سبيل المثال، قال نشطاء الخصوصية في مجموعة الحقوق المفتوحة (ORG) إن تنفيذ أنظمة ضمان السن – بما في ذلك مطابقة صور الهوية، وتقدير عمر الوجه، وخدمات الهوية الرقمية القابلة لإعادة الاستخدام – لتقييد وصول الأطفال يمكن أن يحد عن غير قصد من حرية الأفراد في التعبير. مع تعريضهم في الوقت نفسه لمخاطر أمنية سيبرانية متزايدة.
وقال جيم كيلوك، المدير التنفيذي للمنظمة: “سيواجه البالغون خياراً: إما الحد من حريتهم في التعبير من خلال عدم الوصول إلى المحتوى، أو تعريض أنفسهم لمخاطر أمنية متزايدة ستنشأ عن خروقات البيانات ومواقع التصيد”.
“قد يقوم بعض مقدمي الخدمات الأجانب بحظر الوصول إلى منصاتهم من المملكة المتحدة بدلاً من الامتثال لهذه الإجراءات الصارمة. نحن نشعر بالقلق أيضًا من احتمال حرمان الشباب من المواد التعليمية والمساعدة – خاصة عندما يتعلق الأمر بالجنس والهوية الجنسية والمخدرات وغيرها من الموضوعات الحساسة – من خلال أنظمة الاعتدال.
“ستستمر المخاطر التي يتعرض لها الأطفال مع هذه الإجراءات. يحتاج المنظمون إلى تحويل نهجهم إلى نهج يمكّن الأطفال من فهم المخاطر التي قد يواجهونها، خاصة عندما يبحث الشباب عن المحتوى، سواء كان من المفترض أن يكون متاحًا لهم أم لا.
قال روبن تومبس، الرئيس التنفيذي لشركة القياسات الحيوية Yoti، إنه في حين أنه لا توجد “حل سحري واحد عندما يتعلق الأمر بسلامة الأطفال”، فإنه فعال. تقنية التحقق من العمر سيكون جزءًا أساسيًا في حماية الأطفال من الوصول إلى المحتوى الضار عبر الإنترنت.
“من المهم أن يُتاح للأشخاص خيار كيفية إثبات أعمارهم، لضمان أن يكون ضمان السن شاملاً ومتاحًا للجميع. ولحسن الحظ، أدركت Ofcom أن تقدير عمر الوجه وخدمات الهوية الرقمية القابلة لإعادة الاستخدام ومطابقة معرف الصورة كلها حلول فعالة للغاية.
فيما يتعلق بمخاطر التشفير، فإن خدمات المراسلة والبريد الإلكتروني المشفرة مثل WhatsApp وSignal وElement لها علاقة بذلك هدد سابقا للانسحاب من المملكة المتحدة إذا طلبت Ofcom منهم تثبيت “تقنية معتمدة” عليها مراقبة الاتصالات المشفرة بحثًا عن محتوى غير قانوني.
هذا على أساس أن المادة 122 من القانون تمنح Ofcom صلاحيات لمطالبة شركات التكنولوجيا بتثبيت أنظمة يقولون إنها ستقوض أمان وخصوصية الخدمات المشفرة عن طريق فحص محتوى كل رسالة وبريد إلكتروني للتحقق مما إذا كانت تحتوي على مواد CSAM.
على الرغم من أنه لا يوجد شيء في مسودة الرموز يذكر الخدمات المشفرة، إلا أن Ofcom قالت إنها ستنشر مقترحات محددة في وقت لاحق من عام 2024 بشأن استخدامها “للإشعارات التقنية” لمطالبة الخدمات، في ظروف معينة، باستخدام التقنيات المعتمدة للتعامل مع أنواع معينة من المحتوى غير القانوني.
وقالت: “نتوقع أن يشمل ذلك إرشادات حول كيفية استخدام هذه الصلاحيات، ونصائحنا للحكومة بشأن الحد الأدنى من معايير الدقة، ونهجنا في اعتماد التقنيات”.
