أعربت حكومة المملكة المتحدة عن “تحفظاتها” بشأن المقترحات التشريعية التي قدمها اللورد تيم كليمنت جونز لتحسين التدقيق في أدوات صنع القرار الخوارزمية في القطاع العام، بحجة أن المخاوف التي أثارها مشروع قانونه تمت تغطيتها بالفعل من خلال إصلاحات البيانات المقترحة الخاصة بها و موجود معيار تسجيل الشفافية الخوارزمية (ATRS).
تم تقديمه كمشروع قانون خاص بالأعضاء في سبتمبر 2024قال كليمنت جونز في ذلك الوقت إن المقترحات ضرورية لأن الضمانات الحالية بشأن أدوات صنع القرار الخوارزمية والآلية (ADM) لم تكن كافية لضمان التصحيح بمجرد أن “يقول الكمبيوتر لا”.
خلال مناقشة القراءة الثانية في مشروع القانون الذي قدمه في ديسمبر 2024، قالت ماجي جونز – وكيلة وزارة الخارجية في وزارة العلوم والابتكار والتكنولوجيا (DSIT) – إن الجمع بين الحكومة إصلاحات لجعل ATRS إلزامية لإدارات الحكومة المركزية، وكذلك مقترحه استخدام البيانات وفاتورة الوصول (DUAB)، ليست كافية لمعالجة مخاوف كليمنت جونز فحسب، بل إنها تتماشى أيضًا بشكل أفضل مع “أولويات الحكومة المتمثلة في تسريع الابتكار والتكنولوجيا من أجل الصالح العام والحكومة الرقمية الحديثة”.
وقالت: “تحقق هذه الإصلاحات التوازن الصحيح بين ضمان قدرة المؤسسات على تحقيق أقصى استفادة من تكنولوجيا اتخاذ القرار الآلي لدعم النمو الاقتصادي والإنتاجية وتقديم الخدمات، مع الحفاظ على معايير عالية لحماية البيانات وثقة الجمهور”.
ومع ذلك، أعرب كليمنت جونز عن تحفظاته الخاصة بشأن إصلاحات البيانات الحكومية، مستشهداً بحوادث سابقة تنطوي على استخدام أدوات ADM لوصف “مخاطر أنظمة الخوارزميات غير الخاضعة للرقابة” – بما في ذلك الافتقار إلى الشفافية، وفقدان ثقة الجمهور في الذكاء الاصطناعي (AI). وتسلل التحيز والعنصرية إلى أنظمة صنع القرار غير المنظمة.
لقد ذكّر اللوردات بعام 2020 فشل في الحصول على المستوى A وGCSE، حيث غاب الطلاب بشكل غير عادل عن الأماكن الجامعية؛ واستخدام أنظمة ADM من قبل المجالس، حيث تم تحديد درجات مخاطر “الاحتيال” لنحو 540 ألف مواطن قبل رفض منحهم مزايا الإسكان على أساس بيانات احتيالية؛ و فضيحة مكتب البريد الأفق. “إنها ثقة خطيرة إذا كانت الحكومة تعتقد حقًا أن ATRS، جنبًا إلى جنب مع أحكام ADM المخففة في اللائحة العامة لحماية البيانات” [General Data Protection Regulation]قال كليمنت جونز: “ستكون كافية”. “إن مشروع القانون ضروري لضمان تحقيق فوائد هذه التقنيات مع حماية القيم الديمقراطية والحقوق الفردية.”
ومع ذلك، قالت البارونة جونز إن إصلاحات البيانات الحكومية بموجب DUAB “تنص على وجه التحديد على أن المشاركة البشرية يجب أن تكون ذات معنى. ويهدف هذا إلى منع استخدام التدخل البشري السريع في التصديق على القرارات على أنها كانت لها مشاركة ذات معنى.
مخاوف الشفافية
كانت إحدى مخاوف كليمنت جونز الرئيسية تتعلق بشفافية ATRS. وقال إنه منذ إطلاقها في عام 2022، تم نشر ستة سجلات فقط للشفافية الخوارزمية في القطاع العام.
ودافعت الحكومة عن نفسها بالادعاء بأنه “تم الانتهاء من عدد من هذه السجلات” منذ أن أصبحت إلزامية لجميع الدوائر الحكومية، وأنه سيتم نشرها قريبا.
كما هو الحال، هناك حاليا 23 السجلات الواردة في ATRS.
يحتوي مشروع قانون كليمنت جونز أيضًا على قسم حول تقييمات الأثر الخوارزمي (AIA) التي يتعين على السلطات العامة إجراؤها قبل نشر أي أدوات لصنع القرار. ستجعل تقييمات AIA إلزامية لهم التقييم المستمر والكشف عن تأثير الأداة على السلامة واتخاذ القرارات الإدارية عند تحديث الخوارزمية أو تغيير نطاق الأدوات.
كما جادل النظير المحافظ فيكونت كامروز – سلف جونز في DSIT – بأن فرض تقييمات الأثر حتى قبل الشراء سيكون “غير واقعي”، ونتيجة لذلك، فإن مشروع القانون من شأنه أن يخلق “عبءًا إداريًا”. كما انتقد مشروع قانون كليمنت جونز لأنه توجيهي أكثر من اللازم، بدلاً من السماح للقطاع العام بالمرونة في اتخاذ الخيارات في مواجهة “احتياجاتهم المتباينة إلى حد كبير”.
ادعت البارونة جونز أن ATRS قدمت وجهة نظر شاملة حول الضمانات المتعلقة بتأثير الأداة مع تجنب النتائج السلبية، وبالتالي لم تكن هناك حاجة إلى تشريع للشفافية: “لا نعتقد أن التشريع الخاص بسجلات الشفافية الإلزامية أو AIAs للسلطات العامة هو أمر مناسب”. وقالت “ضرورية في هذا الوقت”.
تمت الإشارة أيضًا إلى كندا، التي نفذت مؤخرًا إطار عمل AIA مشابهًا للإطار المقترح. طلبت مارثا لين فوكس الحذر في تنفيذ مشروع قانون كليمنت جونز، قائلة إنه قد يزيد من البيروقراطية. وقالت: “تحاول كندا أيضًا الانتقال إلى تنظيم أكبر للشفافية الخوارزمية، وكان التنفيذ ثقيلًا وصعبًا للغاية”.
أحد الفروق الرئيسية بين مشروع قانون الأعضاء من القطاع الخاص هو أنه يزيد من أهمية فحص الأنظمة أثناء مرحلة الشراء – بدلاً من فحصها بعد استخدامها – لضمان تقييم الأنظمة على النحو الصحيح من حيث كفاءتها وتأثيراتها قبل شرائها.
وفي معرض حديثه دعمًا لتحسين تدابير المشتريات، قال لين فوكس: “إن المهارات المتعلقة بجانب المشتريات الرقمية في الخدمة المدنية غير متقنة، والصفقات التي تتم مع الموردين بعيدة كل البعد عن المثالية ونحن ننتقل إلى عالم نريد فيه لتشجيع الابتكار ولكن يجب أيضًا تشجيع السلامة. وآمل بشدة أن يتم وضع المشتريات بشكل وثيق جدًا في قلب أي خطط مستقبلية.
تم تقديم مشروع القانون الخاص من قبل كليمنت جونز في وقت تتطلع فيه الحكومة إلى استخدام الذكاء الاصطناعي لدفع النمو وتعزيز الاقتصاد. بيتر كايل قال سابقا في يوليو 2024 أننا “‘إعادة وضع الذكاء الاصطناعي في قلب الحكومة‘أجندتنا لتعزيز النمو وتحسين خدماتنا العامة”.
وفي الوقت نفسه، قال رئيس الوزراء كير ستارمر خلال كلمته خطة عمل الذكاء الاصطناعي خطاب ألقاه في 13 كانون الثاني (يناير) قال فيه إن التكنولوجيا هي “الفرصة الحاسمة” لجيلنا. وقال: “تذكروا كلماتي، بريطانيا ستكون واحدة من القوى العظمى في مجال الذكاء الاصطناعي”.
