أعرب اللوردات عن “مخاوف جدية” بشأن استخدام تقنية التعرف على الوجه المباشر (LFR) من قبل تجار التجزئة، ودعوا إلى سن قوانين جديدة لضمان استخدامها الآمن والأخلاقي من قبل الشركات الخاصة.
في مايو 2024، أطلقت لجنة العدل والشؤون الداخلية بمجلس اللوردات (JHAC) تحقيقًا في معالجة سرقة المتاجر، والذي ركز جزئيًا على كيفية استخدام الشرطة وتجار التجزئة لكل من البث المباشر والمباشر. التعرف على الوجه بأثر رجعي (RFR) للتعامل مع جرائم البيع بالتجزئة.
وبعد تحقيقها، قامت JHAC الآن مكتوب إلى وزارة الداخلية توضح بالتفصيل مخاوفها بشأن التعرف على الوجه في تجارة التجزئة، وتدعو حكومة المملكة المتحدة إلى تقديم تشريعات جديدة تحدد المبادئ العامة وتضع معايير دنيا لاستخدام التقنيات الجديدة، خاصة عندما تستخدمها الشركات الخاصة لأغراض منع الجريمة. .
ومن خلال تسليط الضوء على حقيقة أن تجار التجزئة سيتعاونون في كثير من الأحيان مع بعضهم البعض لإنشاء قواعد بيانات محلية وقوائم مراقبة لمرتكبي جرائم سرقة المتاجر المعروفين، أوضح اللوردات أنه لا يوجد حد جنائي لإدراجهم، مما قد يؤدي إلى عدد من المشكلات.
“وهذا يعني أنه يمكن وضع الفرد على قائمة مراقبة خاصة للتعرف على الوجه وإدراجه في القائمة السوداء من شارعه الرئيسي (وتجار التجزئة المشتركين في جميع أنحاء المنطقة) وفقًا لتقدير حارس الأمن، دون تقديم أي تقرير للشرطة ودون إبلاغ الفرد بأنه لقد تمت إضافتهم إلى قائمة المراقبة”، قالوا لوزارة الداخلية.
“نحن نشعر بالقلق إزاء الآثار المترتبة على ما يعتبر خصخصة فعلية للشرطة، والطبيعة الخفية للقرارات التي يتم اتخاذها على أساس البيانات المطابقة مع الإدخالات في قاعدة بيانات خاصة، وعدم إمكانية اللجوء إلى الأفراد الذين ربما تم إدخالهم بشكل خاطئ في قاعدة بيانات خاصة”. وأضافوا: “قاعدة البيانات بسبب خطأ في التعريف”.
“نحن قلقون بشأن اللائحة العامة لحماية البيانات المحتملة [General Data Protection Regulation] الانتهاكات وخطر الخطأ في التعرف بسبب التحيز والتمييز داخل الخوارزميات.
المخاطر على الحقوق والحريات
وبالإشارة إلى الأدلة المقدمة من مجموعة الحملات Big Brother Watch، سلطت اللجنة الضوء على أن قانون الذكاء الاصطناعي للاتحاد الأوروبي “يحظر على نطاق واسع” استخدام LFR نظرًا للمخاطر غير العادية التي يشكلها على حقوق الأفراد وحرياتهم، مضيفة أن هناك أيضًا خطر التحيز والتمييز من الخوارزميات المستخدمة، حيث أظهرت الدراسات أن الأنظمة أقل دقة بالنسبة للأشخاص ذوي البشرة الداكنة.
بينما استمعت اللجنة في سبتمبر 2024 إلى تجار التجزئة أن استخدام LFR سيكون محدودًا في معالجة سرقة المتاجر بسبب المخاوف المتعلقة بالسلامة والأخلاق (والتي يعتقد أنه يمكن توضيحها من خلال التشريعات الأولية الجديدة)، وقالوا أيضًا إن العمل مع الشرطة لتحديد هوية الجناة تلقائيًا بعد وقوع الحادث باستخدام RFR يجب أن يكون معيارًا يمارس.
على سبيل المثال، أخبر بول جارارد، مدير الشؤون العامة وأمانة مجلس إدارة مجموعة Co-op Group، لوردز أنه على الرغم من أن المنظمة نفسها لا تستخدم LFR للكشف عن سرقة المتاجر في الوقت الفعلي، إلا أنها ستقوم بتجميع “حزمة أدلة” للشرطة عند الإبلاغ عن السرقة ، والتي ستتضمن مواد مثل CCTV ولقطات الكاميرا التي يرتديها الموظفون والتي سيتم تشغيلها من خلال برنامج RFR.
وأضاف أنه على الرغم من أن بعض قوات الشرطة ستأخذ اللقطات المجمعة وتقارنها بالصور الموجودة في قاعدة بيانات الشرطة الوطنية (PND) – التي تحتوي على ملايين صور الاحتجاز، ويتم الاحتفاظ بالعديد منها بشكل غير قانوني من قبل وزارة الداخلية – ليس من الممارسات المعتادة حاليًا أن تقوم الشرطة بالتحقق تلقائيًا من الصور المقدمة ومقارنتها بقاعدة البيانات.
في أكتوبر 2023، أطلقت حكومة المملكة المتحدة مشروعًا شراكة بين رجال الأعمال والشرطة تسمى مشروع بيغاسوس، والتي يدور جزء منها حول 14 من أكبر تجار التجزئة في المملكة المتحدة – بما في ذلك M&S وBoots وCo-op – الذين يشاركون لقطات CCTV مع القوات حتى يتمكنوا من تشغيلها من خلال PND باستخدام برنامج RFR.
وفي إشارة إلى “الخطوات الإيجابية التي اتخذتها شركة Pegasus للتصدي لجريمة البيع بالتجزئة المنظمة”، قالت JHAC إنها ترحب بمواصلة المخطط – الذي يركز بشكل خاص على الجوانب الإجرامية المنظمة للسرقة من المتاجر بدلاً من المجرمين المحليين أو غزير الإنتاج – مضيفة أنه يجب أن تحصل على سنة أخرى من تمويل وزارة الداخلية.
وقالت: “نوصي بتطوير أنظمة إبلاغ محسنة لتسريع العملية التي يمكن من خلالها لتجار التجزئة الإبلاغ عن الجرائم إلى الشرطة”. “يتضمن ذلك إدخال “علامة البيع بالتجزئة” لتحديدها في قاعدة بيانات الشرطة الوطنية وأنظمة إدارة قضايا العدالة الجنائية عند حدوث جريمة في بيئة البيع بالتجزئة.”
تكرار النتائج السابقة
كما سلطت JHAC الضوء على ذلك التحقيق السابق في التقنيات الخوارزمية المتقدمة من قبل شرطة المملكة المتحدة – بما في ذلك التعرف على الوجه وأدوات “التنبؤ” المختلفة بالجريمة – والتي وجدت أن التكنولوجيا يتم نشرها دون إجراء فحص شامل لفعاليتها أو نتائجها، حيث تقوم الشرطة ووزارة الداخلية بشكل أساسي “باختلاق الأمر أثناء تقدمهما”.
كما وصفت الوضع بأنه “غرب متوحش جديد” يتسم بالافتقار إلى الإستراتيجية والمساءلة والشفافية من الأعلى إلى الأسفل. “بالنظر إلى التكاليف المحتملة للتكنولوجيات والمشكلات التي يمكن أن تنشأ عن تنفيذها، بما في ذلك ما يتعلق بحقوق الخصوصية والحريات والتمييز، فإننا نعتبر أن هناك حاجة إلى إطار قانوني أقوى لمنع الإضرار بسيادة القانون”. قال.
تحقيق متابعة قصير من قبل JHAC يبحث على وجه التحديد في استخدام LFR من قبل الشرطة أيضًا وجد أنهم يوسعون بسرعة استخدامهم للتكنولوجيا دون تدقيق أو مساءلة مناسبة، ويفتقرون إلى أساس قانوني واضح لنشرهم. لكن، ادعت الحكومة في أعقاب التحقيق أن هناك بالفعل “إطارًا قانونيًا شاملاً” قائمًا.
“إننا نكرر توصيتنا السابقة ونعتقد أن هناك حاجة لتنظيم التقنيات الجديدة، لا سيما فيما يتعلق باستخدامها من قبل الشركات الخاصة لتدابير منع الجريمة،” هذا ما قالته لجنة المساعدة الإنسانية المشتركة لوزارة الداخلية في رسالتها الخاصة بالتحقيق في سرقة المتاجر. “نحن نعتبر أن هذا النهج من شأنه أن يحقق التوازن بين المخاوف من أن القانون الإلزامي المفرط يمكن أن يخنق الابتكار والحاجة إلى ضمان الاستخدام الآمن والأخلاقي للتكنولوجيات.”
اتصلت مجلة Computer Weekly بوزارة الداخلية بشأن نتائج تحقيق JHAC، بما في ذلك ما إذا كانت لا تزال تتمسك بموقف مفاده أن هناك بالفعل إطارًا شاملاً مطبقًا يحكم استخدام التعرف على الوجه.
وقال متحدث باسم وزارة الداخلية: “إن سرقة المتاجر وصلت إلى مستوى قياسي”. “تتخذ هذه الحكومة إجراءات قوية من خلال إزالة عتبة 200 جنيه استرليني للسرقة من المتاجر ذات القيمة المنخفضة وجعلها جريمة جنائية محددة للاعتداء على عمال المتاجر. تعد تقنية التعرف على الوجه أداة مهمة تساعد الشرطة على التعرف على الجناة وتقديمهم إلى العدالة. نحن نراجع استخدامه باستمرار للحفاظ على شوارعنا آمنة والتأكد من استعادة ثقة الجمهور في شرطتنا.
وقد دعا كل من البرلمان والمجتمع المدني مراراً وتكراراً إلى وضع أطر قانونية جديدة تحكم استخدام أجهزة إنفاذ القانون للقياسات الحيوية – بما في ذلك اثنان من مفوضي القياسات الحيوية السابقين في المملكة المتحدة، بول ويلز و فريزر سامبسون; ان مراجعة قانونية مستقلة بواسطة ماثيو رايدر مراقبة الجودة؛ ال لجنة المساواة وحقوق الإنسان في المملكة المتحدة; و لجنة العلوم والتكنولوجيا بمجلس العموم، والتي دعت إلى وقف اختياري لـ LFR منذ يوليو 2019.
خلال فترة وجوده في منصبه من قبل الاستقالة في أكتوبر 2023كما أبرز سامبسون عدم الوضوح بشأن حجم ومدى مراقبة الفضاء العام، فضلا عن المخاوف بشأن “ثقافة الاحتفاظ” العامة في الشرطة البريطانية فيما يتعلق بالبيانات البيومترية.
