إن الجمهور في المملكة المتحدة والنظام المالي في البلاد “معرضان لأضرار جسيمة محتملة” لأن الهيئات التنظيمية في القطاع المالي “لا تفعل ما يكفي” لإدارة المخاطر التي يجلبها الذكاء الاصطناعي، وفقًا لتقرير لجنة الخزانة.
وفقًا للتقرير، لا تعتقد رئيسة اللجنة ميج هيلير أن القطاع المالي مستعد لحادث كبير يتعلق بالذكاء الاصطناعي.
وحذر أحد المطلعين على بواطن الأمور المصرفية من أن الأشخاص الذين يعملون في البنوك لا يفهمون المخاطر، مثل تركيز الخدمات على عدد صغير من الموردين، و”يعتقدون أنهم على متن سفينة حربية لا يمكن أن تغرق”.
وأفاد النواب أن المخاطر تأتي نتيجة للمواقف التي تبناها بنك إنجلترا وهيئة السلوك المالي (FCA)، والتي وصفتها اللجنة بـ “نهج الانتظار والترقب”.
وقالت لجنة النواب: “إن المؤسسات المالية العامة الكبرى، المسؤولة عن حماية المستهلكين والحفاظ على الاستقرار في اقتصاد المملكة المتحدة، لا تفعل ما يكفي لإدارة المخاطر الناجمة عن الاستخدام المتزايد للذكاء الاصطناعي في قطاع الخدمات المالية”.
وقال هيلير: “استناداً إلى الأدلة التي رأيتها، لا أشعر بالثقة في أن نظامنا المالي مستعد إذا وقع حادث كبير متعلق بالذكاء الاصطناعي، وهذا أمر مثير للقلق. أريد أن أرى مؤسساتنا المالية العامة تتخذ نهجاً أكثر استباقية لحمايتنا من تلك المخاطر”.
إن المؤسسات المالية العامة الكبرى… لا تفعل ما يكفي لإدارة المخاطر الناجمة عن الاستخدام المتزايد للذكاء الاصطناعي في قطاع الخدمات المالية
وأوصت اللجنة بأن يقوم بنك إنجلترا وهيئة مراقبة السلوكيات المالية (FCA) بإجراء اختبارات التحمل الخاصة بالذكاء الاصطناعي لتعزيز استعداد الشركات لمواجهة “صدمة السوق المحتملة التي يقودها الذكاء الاصطناعي”. كما دعت هيئة الرقابة المالية إلى نشر “إرشادات عملية بشأن الذكاء الاصطناعي” بحلول نهاية العام، بما في ذلك كيفية تطبيق قواعد حماية المستهلك ومن يجب أن يتحمل المسؤولية في شركات التمويل.
كما دعت اللجنة الحكومة إلى تعيين مقدمي خدمات الذكاء الاصطناعي والسحابة في مخطط نظام الأطراف الثالثة الحرجة، والذي يمنح هيئة الرقابة المالية (FCA) وبنك إنجلترا صلاحيات التحقيق والإنفاذ على الشركات غير المالية التي تقدم خدمات مهمة لقطاع الخدمات المالية في المملكة المتحدة.
وبعد مرور أكثر من عام على إنشائه، لم يتم تصنيف أي منظمة حتى الآن ضمن هذا النظام.
قال أحد متخصصي تكنولوجيا المعلومات من القطاع المصرفي في المملكة المتحدة، والذي رغب في عدم الكشف عن هويته: “تركيز الذكاء الاصطناعي والخدمات السحابية من عدد قليل فقط من الموردين” يمثل خطرًا كبيرًا.
“إن خطر التركيز يزداد سوءا. لا يوجد سوى اثنتين أو ثلاث من الخدمات السحابية وحفنة من مقدمي خدمات الذكاء الاصطناعي الرئيسيين، وجميع البنوك تستخدمهم. لذلك، إذا حدث خطأ ما، فإن النظام المالي بأكمله يجلس على القمة”.
وأضاف: “أسمع قصصًا من أشخاص في الصناعة يقولون إن البرنامج يكتب نفسه، وينشر نفسه، ويدمج نفسه ويختبر نفسه. ولم يعد لدى البشر أي فكرة عما يحدث بعد الآن.
وأضاف: “المشكلة هي أن العاملين في البنوك لا يفهمون المخاطر ويعتقدون أنهم على متن سفينة حربية لا يمكن أن تغرق”، محذراً من أنها قد ينتهي بها الأمر إلى ما يشبه سفينة تايتانيك.
