يقول باحثون في الجامعة إن الاختبار الحقيقي لأنظمة التعرف على الوجه الحية (LFR) من قبل المملكة المتحدة والشرطة الأوروبية هي “Wild West” إلى حد كبير ، حيث يتم اختبار التكنولوجيا على السكان المحليين دون ضمانات أو إشراف كافية.
وفقا ل دراسة مقارنة لتجارب LFR من قبل وكالات إنفاذ القانون في لندن وويلز وبرلين ونيس، على الرغم من أن الاختبار “الداخلي” هو فرصة مهمة لجمع معلومات حول كيفية أداء الأنظمة القائمة على الذكاء الاصطناعي (AI) مثل LFR في بيئات النشر في العالم الحقيقي ، إلا أن المسارات التي تم إجراؤها حتى الآن فشلت في الاعتبار الآثار الاجتماعية الفنية من الأنظمة المستخدمة ، أو لإنشاء أدلة واضحة على الفوائد التشغيلية.
وأضاف الورقة – التي نشرتها كارين يونج ، وهي زميلة أستاذ متعددة التخصصات في القانون ، والأخلاقيات والمعلوماتية في كلية الحقوق في برمنغهام ، وينلونج لي ، أستاذة باحث في كلية الحقوق في غوانغوا بجامعة زجيانغ – أنه يجب أن يكون هناك أطر إرشادية واضحة في مجال الإرشاد المعمول بها لضمان التجارب في “اختيارات”.
بدون هذا ، قال المؤلفون “نشعر بالقلق من أن مثل هذه الاختبارات ستكون أكثر بقليل من” تجارب ” – العروض العامة المستخدمة لإضفاء الشرعية على استخدام التقنيات الرقمية القوية والغازية لدعم جداول الأعمال السياسية المثيرة للجدل التي النقاش العام والتداول غير موجودين، مع تعميق الاعتماد الحكومي على التقنيات المتقدمة تجاريا التي تفتقر إلى حد بعيد من المعايير القانونية والدستورية ما هي السلطات العامة المطلوبة لدعمها “.
لضمان وجود تدقيق مسؤول عن أنظمة LFRقال Yeung و Li إنه “من الضروري” النظر بشكل صحيح في “الخصائص القوية والمتطفلة والقابلة للتطوير” من LFR ، خاصةً بالنظر إلى قدرتها على إساءة الاستخدام والتجاوز بطرق تتداخل مع حقوق الدولة وحرية التعبير وحرية التجميع ، والتواصل مع نشاط الفرد في الجمهور دون تداخل غير مبرر من قبل الدولة.
بالنظر إلى نطاق التدخل في حقوق الناس ، قال المؤلفون إن الأدلة على فعالية التكنولوجيا في إنتاج فوائدها المطلوبة “يجب أن تمر بعتبة عالية بشكل استثنائي” إذا أرادت الشرطة تبرير استخدامها.
وأضافوا أنه بدون محاسبة صارمة وكاملة لتأثيرات التكنولوجيا – والتي لا تحدث حاليًا في المملكة المتحدة أو أوروبا – قد يؤدي إلى “الإزالة الإضافية والخديرة” للظروف التي تدعم حقوقنا وحرياتنا.
وقالوا: “إذا أردنا أن نأخذ على محمل الجد حريتنا الأساسية في القيام بأعمالنا القانونية في الأماكن العامة دون تدخل في الدولة ، وفرصة إنشاء الذات والتنمية التي توفرها هذه الحرية ، فيجب أن نكون متيقظين”.
“يتضمن ذلك الحاجة إلى اختبار هذه التقنيات بطريقة مسؤولة لإثبات أنها في الواقع تولد فوائد اجتماعية قيمة ، بالنظر إلى تكاليفها الاقتصادية وغيرها من التكاليف ، وإجراء مثل هذه الاختبارات بمسؤولية.”
تجارب إشكالية
تسليط الضوء على مثال تجارب LFR الخاصة بـ Met – أجريت عبر 10 عمليات نشر بين عامي 2016 و 2020 – قال يونج ولي إن توصيف هذه الاختبارات بأنها “تجارب” “مشكوك فيها بشكل خطير” بالنظر إلى تشابههما مع عمليات الشرطة النشطة.
“على الرغم من أن” المحاكمات “التي تشير علنًا إلى أن استخدامها في هذه المناسبات لم يعكس بالضرورة قرارًا بتبني ونشر FRT على أساس دائم ، إلا أنهم كانوا” حقيقيين “بالتأكيد” في العواقب القانونية والاجتماعية بالنسبة لأولئك الذين تسببت وجوههم في تنبيه محدد ، ” عمليات وآثار اجتماعية اجتماعية أوسع.
“المنفعة الأساسية التي يُفترض عادةً أن تتدفق من استخدام FRT المباشر هي القدرة المعززة على تعريف و القبض مطلوب الأفراد الذين يتم تخزين صور الوجه على قوائم مراقبة FRT. سواء كان ذلك في الحقيقة وقالوا إن هذه الفوائد التنظيمية في إعدادات العالم الحقيقي لا تزال غير معروفة ولم يتم اختبارها بشكل منهجي.
وأضاف المؤلفون كذلك أنه على الرغم من أن ترجمة تنبيهات LFR الآلية إلى اعتقالات قانونية تتطلب التكامل الناجح للعديد من المكونات التقنية والتنظيمية والبيئية والبشرية ، إلا أن هذا لم يتم فهمه بشكل كاف من قبل MET.
على سبيل المثال ، لاحظوا أنه بالنظر إلى إمكانية المباريات الخاطئة، مجرد جيل من تنبيه مطابقة LFR ليس في حد ذاته بما يكفي لتكوين شك معقول (والتي يتعين على الشرطة البريطانية أن تُظهِر من أجل التوقف قانونًا واحتجازها بشكل قانوني).
وكتبوا “على الرغم من أن ضباط الشرطة في إنجلترا وويلز يحق لهم إيقاف الأفراد وطرح أسئلة حول من هم وما يفعلونه ، فإن الأفراد ليسوا ملزمين بالإجابة على هذه الأسئلة في غياب الشكوك المعقولة بأنهم شاركوا في ارتكاب جريمة ما”.
“وفقًا لذلك ، يجب إجراء أي محاولة أولية من قبل ضباط الشرطة للتوقف والتشكيك في الفرد الذي يتطابق وجهه مع قائمة المراقبة على أساس أن الفرد غير ملزم قانونًا بالتعاون لهذا السبب وحده.”
“الافتراض للتدخل”
ومع ذلك ، على الرغم من طلب شك معقول ، أضاف Yeung و Li ذلك تم تحديد التقييمات السابقة لتجارب لندن “افتراض واضح للتدخل” بين الضباط ، مما يعني أنه كان من الممارسات المعتادة لهم إشراك فرد إذا طُلب منهم ذلك من قبل الخوارزمية.
بالنظر إلى الديناميات الدقيقة في اللعب في تشغيل LFR ، تبرز الورقة الحاجة إلى السياسة التنظيمية الواضحة والبروتوكولات التشغيلية وتدريب المسؤولين السليم.
كما أشار يونج ولي إلى أنه على الرغم من أن اكتشاف الأفراد المطلوبين كان الهدف المعلن لمحاكمات لندن ، فقد ادعى القوة وممثليها مجموعة من الفوائد المساعدة ، مثل تعطل الجريمة وردعها، لم يثبت بعد.
“غالبًا ما يصعب إثبات تأثيرات الردع ، حتى عندما كان واضحًا ، وعلى الرغم من أن LFR كان له ما يبرره على أساس تقديم” الطمأنينة للمجتمع من خلال توفير رمز مرئي بأن الجريمة تتم معالجتها “، لم يتم تقديم أي دليل لدعم مثل هذه الادعاءات التي تفيد بأن LFR كان له تأثير إيجابي في تخفيف الخوف من الجريمة”.
وأضاف Yeung و Li أنه حتى عندما تم إجراء تقييمات مستقلة من قبل المختبر الفيزيائي الوطني (NPL) ، أدلى تقريرها 2019 “البيان الجريء بأن” التجارب تشير إلى أن LFR ستساعد النواب على إيقاف الأشخاص الخطرين وجعل لندن أكثر أمانًا “دون تقديم أي دليل ملموس حول كيفية وصول هذا الاستنتاج”.
كان المؤلفون ينتقدون بالمثل شرطة جنوب ويلز (SWP) – التي أجرت 69 تجربة “تشغيلية” بين عامي 2017 و 2020 – مع الإشارة إلى أن باحثو جامعة كارديف المشاركين في إنشاء تقييم مستقل للاختبارات كانوا “غير قادرين على تحديد ما كانت عليه ، إن وجدت ، على التكنولوجيا على الوقاية من الجريمة”.
أبرزوا كذلك عدم وجود دقة في إنشاء قائمة مراقبة SWP، لا سيما فيما يتعلق بجودة الصور المشمولة والحجم الكلي للقوائم ، والتي تباينت على نطاق واسع.
“حتى باحثو كارديف يقيمون التجارب ذكروا أنهم لم يتمكنوا من تحديد كيف ولماذا يهم حجم وتكوين قائمة المراقبة ، على الرغم من أنه “يبدو أنه يحدث فرقًا” ، مع التوصية بأن “القرارات المتعلقة بحجم قائمة المراقبة وتكوينها” يتم توفيرها للتدقيق العام “، مضيفين أن التقرير قد اختتم مع دعوة للحصول على نهج واقعية وأدلة”.
وتعليقًا أكثر على نهج “التشغيلي” التجريبي لـ MET و SWP ، أضاف المؤلفون أنه “لا يمكن تحديد السلبيات الخاطئة وقياسها” نتيجة لذلك.
وقالوا: “بمعنى آخر ، تم تضمين عدد الأفراد الذين تم تضمين صور وجههم في قائمة مراقبة FRT والذين مروا أمام الكاميرا دون أن يؤدي إلى تنبيه المباراة (أي أن” تلك التي هربت “) لا يمكن اكتشافها وقياسها”.
“وبالتالي ، كانت النتائج الناتجة عن محاكمات لندن والويلزية لا في الواقع ، فإن مؤشرات دقة مطابقة البرامج ، لأنها يمكنها فقط إنشاء بيانات تتعلق بإيجابيات حقيقية وكاذبة مسجلة. “
معلقة أكثر على صحة تقييمات NPL ، أشار Yeung و Li إلى أنه لا يذكر أي شيء عن السلبيات الخاطئة ، “من المفترض أنه لا يمكن جمع هذه البيانات بالنظر إلى أن الاختبارات تم تصميمها لتحديد الأهداف” الحية “والقبض عليها.
التقييمات الاجتماعية الفنية المطلوبة
على عكس تجارب LFR البريطانية ، أبرز Yeung و Li كيف استخدمت التجارب في Nice و Berlin المتطوعين الذين قدموا موافقة مستنيرة ، بدلاً من أفرادهم غيرهم العشوائيين في الجمهور ، وسعوا إلى تقييم أدائهم الوظيفي بالمعنى الفني ، وليس التشغيلي.
ومع ذلك ، كان لكل حالة أيضا مشاكلها الخاصة. في Nice ، على سبيل المثال ، تم تورط ثمانية متطوعين فقط ، في حين تم الكشف لاحقًا عن أن المتطوعين في برلين – الذين كانوا مختلطين أيضًا مع المارة الذين لم يوافقوا – لم يتم إبلاغهم بـ “النطاق الكامل من البيانات الشخصية التي تم جمعها عنهم” ، والتي تضمنت سرعتهم ودرجة الحرارة المسجلة بواسطة أجهزة الإرسال.
على الرغم من الأهداف الأكثر تواضعًا لبرلين وتجارب لطيفة لاختبار الوظائف الفنية للنظام-مقارنة بالتجارب التي أجريت في لندن وويلز التي سعت إلى اختبار الأنظمة في البيئات التشغيلية الحية-كان المؤلفون واضحين أن برلين والمحاكمات اللطيفة فشلت في الاعتبار بالمثل في الاعتبار الأنظمة الاجتماعية الأوسع والتقنية التي تتم دمجها.
“لم يولد أي من هذه التجارب أدلة واضحة على أن التكنولوجيا قد قدمت بالفعل فوائد في العالم الحقيقي في شكل تحسين الكفاءة التشغيلية في تحديد موقع المشتبه بهم الجنائيين وتحديدهم وإلقاء القبض عليهم من قبل سلطات إنفاذ القانون ، ولا بالمبلغ “.
وخلص يونج ولي إلى أنه على الرغم من أن استخدام LFR من قبل الشرطة يولد “مجموعة من الأخطار القانونية والأخلاقية الشائكة والشوقة” ، لم يتم فهم هذه وكالات الشرطة التي ترغب في نشرها.
“على الأقل بالنسبة للتكنولوجيات ذات الحقوق العالية ، وخاصة أنظمة المراقبة الحيوية التي يمكن نشرها عن بُعد ، مثل FRT المباشر ، يجب أن نصر على أدلة على فوائد العالم الحقيقي بحيث يمكن تبرير آثارها السلبية على الحقوق الأساسية والحرية الديمقراطية وفقًا للاختبارات القانونية للضرورة والنسبة”.
“وبعبارة أخرى ، يتطلب تحديد جدارة FRT المباشر أكثر من دليل على إمكانات مطابقة البرنامج في هذا المجال. ويتطلب أيضًا اختبار ما إذا كان يمكن دمج البرنامج بنجاح في نظام تنظيمي معقد ، الإنسان والاجتماعي والاجتماعي لتوليد الفوائد المتوقعة إلى المنظمة الأساسية التي يمكن أن تعتبر من المفيد اجتماعيًا بشكل اجتماعي.
يستجيب Met و SWP
ورداً على الورقة ، قال متحدث باسم Met Police: “نعتقد أن استخدامنا لـ LFR أمر قانوني ومتناسب ، حيث لعب دورًا رئيسيًا في الحفاظ على سلامة لندن. نحن ندرك أن الاختبارات التشغيلية المبكرة لـ LFR في عام 2016 إلى 2020 كانت محدودة.
“هذا هو السبب في أننا قمنا بتكليف المختبر الفيزيائي الوطني لإجراء اختبارات مستقلة. وقد ساعد هذا MET على فهم كيفية تشغيل التكنولوجيا بطريقة عادلة ومنصفة.”
وأضافوا أنه مع اكتساب المزيد من الخبرة التشغيلية ، زاد نجاح عمليات النشر. وقالوا: “في نهاية عام 2023 ، انتقلنا إلى استراتيجية نشر LFR على النقاط الساخنة للجريمة في جميع أنحاء لندن”. “نحن نعمل عن كثب مع أصحاب المصلحة والمجتمع ، ونرى دعمًا قويًا لتطوير هذه التكنولوجيا.”
وأضافت القوة أنه حتى الآن في عام 2025 ، لم يكن هناك سوى 12 تنبيهًا كاذبًا ، في حين أن هذه التكنولوجيا قد قامت بمسح أكثر من 2.5 مليون وجوه ، وأن استخدام LFR قد أدى إلى اعتقال أكثر من 1300 شخص.
كما أبرز استطلاعات الموقف العام بتكليف من مكتب العمدة للشرطة والجريمة في الربع الأخير من عام 2024 ، والتي أظهرت أن 84 ٪ من الذين شملهم الاستطلاع دعموا للتكنولوجيا لتحديد المجرمين الجادين والعنف على وجه التحديد ، وتحديد موقع المطلوبون من قبل المحاكم ، وتحديد موقعهم للخطر على أنفسهم.
رداً على الورقة ، قال SWP أن اختبار LFR تم إجراؤه بشكل مستقل من قبل NPL.
