أتمتة الخدمات العامة: نهج حذر

مجال واسع من وظائف القطاع العام يتم أتمتتها، مما يبرز التطبيقات المتنوعة لهذه التقنيات وقدرتها على تغيير الأمور. تتضمن حالات الاستخدام النموذجية ما يلي:

• السلطات المحلية – استخدام برامج المحادثة الآلية، وأتمتة تقييمات الرعاية الاجتماعية، وتوظيف تحليلات البيانات لتحديد الأسر المعرضة للخطر.

ولكن من الأهمية بمكان أن نلاحظ أن هذه الأنظمة لا تؤثر على الجميع على قدم المساواة، وأن المجتمعات المهمشة، أو تلك التي تعاني من وضع هجرة غير مؤكد، أو تلك التي تعتمد على الدعم الحكومي، أكثر عرضة للتأثر بالقرارات الآلية. وقد يؤدي هذا إلى عواقب وخيمة، بما في ذلك التحيز وانتهاكات الخصوصية.

ولابد من فحص الأنظمة الآلية للتأكد من قدرتها على تحقيق النتائج المرجوة. وتُظهِر أمثلة عديدة، مثل مجلس هاكني ونظام التحقق القائم على المخاطر في بريستول، أن الأنظمة الآلية قد تفشل في تحقيق النتائج الموعودة، مما يؤدي إلى عدم الكفاءة والآثار السلبية.

غالبًا ما ينبع التحيز في الأنظمة الآلية من البيانات المستخدمة لتدريبها. تعد أدوات الشرطة التنبؤية وخوارزمية المستوى المتقدم لعام 2020 من الأمثلة الرئيسية حيث أدت التحيزات إلى نتائج غير عادلة. أدت المخاوف بشأن التحيز إلى إيقاف بعض الأنظمة من قبل شرطة ويست ميدلاندز ووزارة الداخلية.

تعتمد الأتمتة على بيانات ضخمة، مما يثير المخاوف بشأن مصادر البيانات وموافقة المواطنين. الجدل المحيط بحماية البيانات و مشروع قانون المعلومات الرقمية يسلط الضوء على التوازن الدقيق بين استخدام البيانات وحقوق الخصوصية.

إن العديد من الأنظمة الآلية يتم تطويرها من قبل شركات خاصة، مما يؤدي إلى شفافية محدودة. وتفتقر هيئات القطاع العام في بعض الأحيان إلى المعرفة التفصيلية بهذه الأنظمة، مما يعقد المساءلة وعودة المواطنين. ويسلط سجل مشروع القانون العام للأنظمة الآلية الضوء على الغموض الواسع النطاق.

الثقة أمر بالغ الأهمية. فبدونها، قد يقاوم المواطنون جمع البيانات واستخدام الأنظمة الآلية. إن جهود التحول الرقمي التي تبذلها هيئة الخدمات الصحية الوطنية و مكتب البريد/الأفق توضح هذه الفضيحة التحديات التي تواجه الحفاظ على ثقة الجمهور في التكنولوجيا.

لتحقيق التوازن بين فوائد ومخاطر الأتمتة، نعتقد أنه من الضروري اتباع مجموعة إرشادية من المبادئ:

1. استجوب الحاجة – فحص الأسباب الكامنة وراء الأتمتة. والتأكد من أنها لا تؤدي إلى تكرار أو تفاقم المشكلات القائمة.

2. التأثير مقابل المخاطر – التركيز على المجالات التي يمكن أن توفر فيها الأتمتة فوائد كبيرة مع الحد الأدنى من المخاطر.

3. تحديد “الخطوط الحمراء” – أناتحديد القرارات التي تشكل خطورة كبيرة بالنسبة للأتمتة بسبب تأثيرها المحتمل على حياة الأفراد.

4. الحماية الشاملة والتقييم – أناتنفيذ تقييمات الأثر المتسقة وتمكين السلطات من تعديل الأنظمة الضارة.

5. الشفافية – جعل استخدام وآليات الأنظمة الآلية علنية وضمان إجراء تقييمات شاملة للأثر.

6. رفع مهارات الموظفين– تزويد موظفي القطاع العام بالمعرفة اللازمة لفهم وتقييم الأنظمة الآلية.

7. مشاركة المواطنين – إشراك المواطنين ومجموعات المجتمع المدني في صنع القرار ومراقبة الأنظمة الآلية وبناء الثقة والتبني

بدون نهج حذر ومبدئي، لا يمكننا الاستفادة من فوائد الأتمتة دون المساس بحقوق المواطنين وثقتهم. إن الرعاية أمر بالغ الأهمية، وهو أمر يجب أن ندعمه جميعًا.

آنا دنت هي باحثة متمرسة ومستشارة في السياسات العامة ورئيسة قسم الأبحاث في متاعب واعدة.