يخاطر المطلعون على الذكاء الاصطناعي بإعادة تشكيل الخدمات المالية

في الخدمات المالية، لم يعد الوصول الموثوق به يبدأ وينتهي بالأشخاص. ومع احتضان القطاع بشكل متزايد لوكلاء الذكاء الاصطناعي لدعم التحول الرقمي، أصبحت الهويات غير البشرية جزءًا من عمليات الصناعة اليومية.

بينما التبني السريع لوكلاء الذكاء الاصطناعي وسير العمل المستقل هو طريق واعد للأمام لتسريع الكفاءة التشغيلية، ولا يأتي بدون مخاطر متزايدة.

عبر الخدمات المالية، يتم استخدام الذكاء الاصطناعي ووكلاء الذكاء الاصطناعي لدعم اتخاذ القرار وأتمتة سير العمل ونقل المعلومات بين أنظمة العملاء والدفع والمطالبات والتجارة والامتثال. هذا التحول يجري بالفعل على قدم وساق، حيث تستخدم 75% من شركات الخدمات المالية في المملكة المتحدة الآن الذكاء الاصطناعي، وفقًا لـ أ تقرير البرلمان البريطاني. من المتوقع أن يؤدي الذكاء الاصطناعي إلى إحداث تحول في الإنتاجية، لكن هذا الوعد يعتمد على مدى أمان تقدم المؤسسات في اعتماده.

تحتاج المؤسسات المالية إلى التعامل مع الذكاء الاصطناعي باعتباره جهة داخلية جديدة: كيان يتمتع بإمكانية الوصول إلى البيانات والأنظمة وسير العمل الحساسة. من خلال ضوابط الأمان والحوكمة المناسبة، يمكن للذكاء الاصطناعي تحويل الإنتاجية بأمان. وبدون هذه الضوابط، تخاطر الشركات بمنح أنظمة مستقلة قوية القدرة على الوصول إلى المعلومات الحساسة ونقلها والتصرف بناءً عليها بسرعة الآلة.

متعلق ب:لماذا تتوقف مشاريع الذكاء الاصطناعي لدى البنوك عند الموافقة عليها

ولضمان قدرة الدفاعات على المنافسة في مشهد التهديدات الحديثة، تحتاج المؤسسات المالية إلى نموذج أمني يواكب الهويات البشرية وغير البشرية. ويتطلب ذلك نموذجًا يوفر سياقًا حول كيفية تصرف الموظفين والحسابات ووكلاء الذكاء الاصطناعي بمرور الوقت، ويحدد متى يتحول الوصول المشروع بسرعة إلى خطر.

يصبح الوصول الموثوق به هو الخطر

تعتمد مؤسسات الخدمات المالية على الوصول الموثوق به كركيزة أساسية لخدماتها. تقليديًا، ركز هذا على تحمل الموظفين والمقاولين والإداريين المسؤولية عن البيانات الحساسة والعمليات الهامة. مع تحول البيئات إلى أكثر آلية وترابطًا واعتمادًا على الذكاء الاصطناعي، فإن الوصول الموثوق يمتد الآن إلى ما هو أبعد من النشاط البشري.

تقوم فرق الأمن الآن بمراقبة عملاء الذكاء الاصطناعي الذين يعملون بشكل مستمر، ويعالجون كميات كبيرة من المعلومات ويتصرفون في ثوانٍ. قد يرث هؤلاء الوكلاء إمكانية الوصول من الموظفين أو حسابات الخدمة أو عمليات تكامل الجهات الخارجية، مما يجعل من الصعب معرفة مصدر النشاط وسبب اتخاذ القرار ومن المسؤول.

مع هذا تأتي طبقة جديدة من المخاطر الداخلية. لم يعد المطلع يقتصر على الموظف الذي يتصرف بإهمال أو بشكل ضار. ويمكن أن تنشأ أيضًا من أ هوية غير إنسانية أو عملية مدعمة بالذكاء الاصطناعي تم منحها حق الوصول المشروع الذي يتيح التعرض.

وفي حين أن الضوابط التقليدية لا تزال مهمة، إلا أنها لم تكن مصممة للعمل على هذا المستوى من السرعة والاستقلالية والسياق. يمكنهم تأكيد ما إذا كانت الهوية لديها إذن للوصول إلى النظام، ولكن ليس دائمًا ما إذا كان هذا الوصول مناسبًا. وفي الخدمات المالية، تحتاج الشركات ليس فقط إلى معرفة من أو ما الذي يمكنه الوصول، ولكن ما إذا كان نشاطها طبيعيًا ومسموحًا به وآمنًا.

تأمين عملاء الذكاء الاصطناعي دون عرقلة الابتكار

لا ينبغي للمؤسسات العاملة في المجال المالي الاستجابة لمخاطر الذكاء الاصطناعي عن طريق حظر أدوات الذكاء الاصطناعي. يمكن لوكلاء الذكاء الاصطناعي تقديم قيمة ملموسة، بدءًا من تحسين خدمة العملاء وتقليل العمل اليدوي وحتى دعم القرارات الأسرع.

الأولوية هي التبني الموثوق به. وهذا لا يتضمن افتراضًا متأصلًا بأن وكلاء الذكاء الاصطناعي سيتصرفون دائمًا بدقة وموثوقية. تحتاج الشركات المالية إلى الحوكمة والرقابة البشرية والمساءلة حول كيفية وصول وكلاء الذكاء الاصطناعي إلى الأنظمة واستخدام البيانات واتخاذ القرارات. كل ذلك مع تزويد فرق الأمان بالتحليلات السلوكية لاكتشاف الأنشطة غير العادية والتحقيق في المخاطر والاستجابة بسياق أكبر.

لدعم التبني الآمن للذكاء الاصطناعي، يجب أن يركز القطاع على:

الحفاظ على الثقة من خلال مراقبة الذكاء الاصطناعي

سيستمر عملاء الذكاء الاصطناعي في التحرك بشكل أسرع، والعمل عبر المزيد من الأنظمة وتحمل المزيد من المسؤولية التشغيلية. الأولوية الآن هي التأكد من إمكانية تحرك الأمن معهم.

لم يعد من الممكن الاعتماد على الثقة في الخدمات المالية على ضوابط الوصول وحدها. وستكون الشركات التي ستكتسب أكبر قيمة من الذكاء الاصطناعي هي تلك التي يمكنها استخدام الوكلاء بثقة، مع الرؤية والرقابة الصحيحة لحماية العملاء والبيانات والثقة التي بني عليها القطاع.

الهدف ليس إبطاء الذكاء الاصطناعي، ولكن ضمان إمكانية فهم كل إجراء والوثوق به والدفاع عنه.

كيف تدير مؤسستك مخاطر وكيل الذكاء الاصطناعي؟ راسلنا عبر البريد الإلكتروني على [email protected].