حذرت الهيئة التنظيمية المالية في المملكة المتحدة من أن الذكاء الاصطناعي الحدودي (AI) يكشف عن ثغرات أمنية بمعدل أسرع مما تستطيع الشركات المالية تصحيحه، مما يخلق “اختناقات ضعف”.
هيئة السلوك المالي (FCA) قال أمس أن الذكاء الاصطناعي الرائد قادر على تحديد نقاط الضعف في برامج الشركات وأنظمتها وبنيتها التحتية، مما يجعل من الصعب على الشركات مواكبة ذلك.
حجم نقاط الضعف التي اكتشفها الذكاء الاصطناعيوأضافت أنه حتى بعد الفرز من قبل خبراء بشريين، يمكن أن يضع “ضغطًا كبيرًا” على فرق الإصلاح والموارد الهندسية وعمليات إدارة التغيير.
يأتي تحذير هيئة الرقابة المالية (FCA) في أعقاب مخاوف من ذلك أنظمة الذكاء الاصطناعي الحدودية يمكن أن يضعف الدفاعات السيبرانية في القطاع المالي.
أندرو بيلي، رئيس مجلس الاستقرار المالي، وهي هيئة دولية تراقب النظام المالي العالمي، حذر وزراء مالية مجموعة العشرين ومحافظو البنوك المركزية هذا الأسبوع أن الذكاء الاصطناعي الحدودي يمكن أن يؤثر بشكل ملموس على المخاطر السيبرانية وتقويض ثقة السوق.
وقال في رسالة مفتوحة: “قد يكون لدى Frontier AI القدرة على تغيير سرعة المخاطر السيبرانية وحجمها واقتصادياتها بشكل ملموس، مما قد يقوض ثقة السوق على مستوى النظام، خاصة بسبب التركيز الشديد لمقدمي خدمات الطرف الثالث”.
وقال إنه يتعين على الشركات المالية والهيئات التنظيمية الاستعداد لحجم أكبر من نقاط الضعف ومعدل أسرع للتصحيح، الأمر الذي يمكن أن “يخلق تحديات تشغيلية ومرونة”.
يأتي تحذير هيئة الرقابة المالية (FCA) في أعقاب مراجعة لكيفية استخدام الشركات المالية واختبارها وإعدادها لنماذج الذكاء الاصطناعي الحدودية التي لديها القدرة على تحديد نقاط الضعف الأمنية في أنظمتها بسرعة.
ووجدت أن الذكاء الاصطناعي الحدودي يكشف عن نقاط الضعف في كيفية إدارة الشركات المالية ومعالجة نقاط الضعف الأمنية.
وقالت هيئة الرقابة المالية: “أشارت الشركات إلى أن الأمر لا يقتصر فقط على ما إذا كان بإمكانها تحديد نقاط الضعف، ولكن ما إذا كان بإمكانها التقييم والاستجابة بشكل فعال للتدفق المستمر للنتائج”.
ونتيجة لذلك، كان على الشركات أن تفهم كيف يمكنها تسريع عملياتها الحالية دون خلق “عدم استقرار تشغيلي”.
تسلسل الضعف
يمكن لنماذج Frontier AI أن تجمع بين العديد من العيوب الأمنية ذات التصنيف المنخفض، والمعروفة باسم تسلسل الثغرات الأمنية، لإنشاء طرق بديلة للتسوية، والتي قد لا تكون مرئية من خلال الأساليب التقليدية للاختبار والمسح.
وقالت العديد من الشركات إنها تعتمد قراراتها المتعلقة بإدارة الثغرات الأمنية على التعطيل المحتمل الناجم عن استغلال مسار الهجوم، وليس على تصنيفات المخاطر الخاصة بنقاط الضعف الفردية.
وجدت هيئة مراقبة السلوكيات المالية (FCA) أن نماذج الذكاء الاصطناعي الرائدة تكشف عن نقاط الضعف ليس فقط في التكنولوجيا، ولكن أيضًا في الأشخاص والأنظمة والعمليات المستخدمة لإصلاحها.
وهذا سيجعل الأمر أكثر أهمية بالنسبة للشركات لرسم خريطة لأنظمة تكنولوجيا المعلومات الخاصة بها وتحديد وإدارة التبعيات فيما بينها.
لقد عززت شركة Frontier AI الحاجة إلى “الدفاع في العمق“، مما دفع الشركات المالية إلى النظر إلى المرونة السيبرانية على أنها فعالية مشتركة لعمليات متعددة، بدلاً من فعالية الضوابط الفردية.
قالت بعض الشركات إنها تتعامل مع الموردين حول كيفية استخدامهم لاكتشاف ثغرات الذكاء الاصطناعي، وكيفية التحقق من صحة نتائج الذكاء الاصطناعي، وكيف يسمحون للعملاء بمعرفة المخاطر، وما إذا كانوا قادرين على معالجة المشكلات بسرعة.
وقالت هيئة الرقابة المالية إنه على الرغم من أن الذكاء الاصطناعي الحدودي يعمل بشكل متزايد على أتمتة اكتشاف نقاط الضعف وإصلاحها، إلا أن الإشراف البشري يظل بالغ الأهمية.
يمكن للذكاء الاصطناعي تسريع اكتشاف الثغرات الأمنية وتحليل التعليمات البرمجية وإبلاغ الشركات بكيفية تحديد أولويات التصحيح، لكن الشركات تواصل الاعتماد على الخبرة المتخصصة للتحقق من صحة النتائج التي تتوصل إليها وتحديد أولويات الاستجابات واتخاذ قرارات قائمة على المخاطر.
وقالت هيئة الرقابة المالية: “لاحظت العديد من الشركات أن فوائد الاكتشاف المستقل يمكن أن تكون محدودة حيث لا تستطيع العمليات مواكبة حجم الإنتاج”.
منفصل مراجعة وقد وجدت دراسة أجرتها هيئة السلوك المالي في تأثير الذكاء الاصطناعي على الخدمات المالية بالتجزئة، والتي نُشرت في يوليو، أن الذكاء الاصطناعي سيغير طريقة عمل شركات التجزئة، وكيف يتخذ المستهلكون القرارات المالية، وكيف تعمل الأسواق.
وحذرت مجلة ميلز ريفيو أيضًا من أن الذكاء الاصطناعي يمكن أيضًا أن “يضخم المخاطر المرتبطة بالاحتيال والأمن السيبراني وإيذاء المستهلك وتركيز السوق”.
