يُنصح قادة تكنولوجيا المعلومات بالاستعداد للارتفاع في النزاعات القانونية وحوادث الامتثال التنظيمية الناشئة عن استخدام الذكاء الاصطناعي (Genai) في منظماتهم.
وجد مسح Gartner لـ 360 من قادة تقنية المعلومات المشاركين في طرح أدوات Genai أن أكثر من 70 ٪ أشاروا إلى أن الامتثال التنظيمي في ضمن أفضل ثلاثة تحديات على نشر مساعد إنتاجية Genai على نطاق واسع.
أصبح Genai سريعًا مكونًا أساسيًا في برنامج المؤسسة. صرح Gartner مؤخرًا أنه في أقل من 36 شهرًا ، ستصبح Genai Companity متطلبًا أساسيًا لمنتجات البرمجيات. وقال غارتنر: “لقد تجاوز كل سوق برامج بالفعل ميزة المحرك الأول ، وبحلول عام 2026 ، سيتم إنفاق المزيد من الأموال على البرامج مع Genai أكثر من بدونها”.
لكن الزيادة في استخدام Genai لها تأثير عميق على قدرة المنظمات على البقاء آمنة ومتوافقة مع اللوائح. أفاد المحلل أن 23 ٪ فقط من المجيبين واثقون للغاية في قدرة مؤسستهم على إدارة مكونات الأمن والحوكمة عند طرح أدوات Genai في تطبيقات المؤسسات الخاصة بهم.
وقالت ليديا كلوغرتي جونز ، المديرة العليا في غارتنر: “تختلف لوائح الذكاء الاصطناعى العالمي على نطاق واسع ، مما يعكس تقييم كل بلد لمحاذاة مناسبة لقيادة الذكاء الاصطناعي والابتكار وخفة الحركة مع أولويات التخفيف من المخاطر”. هذا يؤدي إلى غير متسق وغالبًا ما يكون غير متماسك التزامات الامتثال، مما يعقد محاذاة استثمار الذكاء الاصطناعى مع قيمة المؤسسة القابلة للتكرار ، وربما فتح المؤسسات حتى الالتزامات الأخرى. “
أظهر المسح أيضًا أن التأثير من المناخ الجيوسياسي ينمو بشكل مطرد. أشار أكثر من نصف (57 ٪) من قادة تكنولوجيا المعلومات غير الأمريكية إلى أن المناخ الجيوسياسي على الأقل أثر بشكل معتدل على استراتيجيتهم ونشرهم ، حيث أبلغ 19 ٪ من المجيبين أنه له تأثير كبير. ومع ذلك ، أفاد ما يقرب من 60 ٪ من هؤلاء المجيبين أنهم لم يتمكنوا أو غير راغبين في تبني بدائل أداة Genai غير الأمريكية.
عند نشر Genai ، أوصى Gartner بتقوية قادة تكنولوجيا المعلومات تعزيز الاعتدال من المخرجات التي تم إنشاؤها من الذكاء الاصطناعى عن طريق هندسة التصحيح الذاتي في نماذج التدريب ومنع أدوات Genai من الاستجابة على الفور ، في الوقت الفعلي ، عند طرح سؤال لا يمكنهم الإجابة عليه.
تغطي نصيحة Gartner بشأن الاعتدال أيضًا إجراءات مراجعة حالة الاستخدام التي تقيم مخاطر “ناتج chatbot إلى إجراء الإنسان غير المرغوب فيه” ، من منظورات قانونية وأمان وتأثير المستخدم. وحثها قادةها على استخدام اختبار السيطرة حول الكلام الذي تم إنشاؤه بواسطة الذكاء الاصطناعى ، وقياس الأداء ضد التسامح المحدد للمخاطر.
الاختبار الشامل هو جزء آخر من نشر Genai. هنا ، يعتقد Gartner أنه يجب على قادة تكنولوجيا المعلومات زيادة اختبار النماذج/الرمل من خلال بناء فريق اندماج متعدد التخصصات من مهندسي القرار ، وعلماء البيانات والمستشار القانوني لتصميم بروتوكولات ما قبل الاختبار ، والاختبار والتحقق من صحة الناتج النموذجي ضد الإخراج غير المرغوب فيه. وحثها قادةها على توثيق جهود هذا الفريق على التخفيف من المصطلحات غير المرغوب فيها في بيانات التدريب النموذجية والموضوعات غير المرغوب فيها في إخراج النموذج.
تتمثل إحدى التقنيات التي يتم استخدامها في بعض الصناعات الخاضعة للتنظيم مثل المصرفية والتمويل في استخدام وكلاء الذكاء الاصطناعي المتعددة ، كل منها يعتمد على أدوات Genai المختلفة ونماذج لغة AI ، للرد على استعلام المستخدم. ثم يتم تقييم الردود من قبل نظام الذكاء الاصطناعى يعمل كقاض ، مما يتخذ القرار النهائي بشأن الإجابة الأكثر معقولة. كبير موظفي البيانات والتحليلات في مجموعة لويدز المصرفية ، رانيل بوتيجو، يصف هذا النهج بأنه “عميل كقاض”.
يوصي Gartner أيضًا بأن تتضمن أدوات Genai تقنيات تعميد المحتوى مثل “أزرار إساءة الإبلاغ” و “ملصقات تحذير الذكاء الاصطناعي”.
