يطلب NCSC من المؤسسات أن تجعل مفاتيح إيقاف التشغيل بالذكاء الاصطناعي جاهزة

لقد أصبح مفهوم مفتاح القتل بالذكاء الاصطناعي مقبولًا على نطاق واسع، وقد أصبح كذلك بالفعل المناقشات في وستمنستر حول إمكانية تشريع مثل هذه الضوابط إلى الوجود.

وعلى الجانب الآخر من المحيط الأطلسي، قدم عضوا الكونجرس الأمريكي تيد ليو وناثانيال موران مؤخراً مشروع قانون إلى الكونجرس – قانون AI Kill Switch – من شأنه أن يفرض على مطوري أنظمة الذكاء الاصطناعي الحفاظ على القدرة على خنق النماذج المارقة أو تعليقها أو إيقافها.

وإذا تم إقراره، فإن القانون سيمنح واشنطن أيضًا القدرة على إصدار أمر بإيقاف تشغيل الأنظمة التي يمكن أن تسبب “ضررًا كارثيًا”.

هارشيل باريك، نائب رئيس إدارة المنتجات في تشيكماركسقال: “إن NCSC يطرح السؤال الصحيح: ليس ما إذا كان يجب استخدام الذكاء الاصطناعي الوكيل، ولكن ما مقدار الاستقلالية التي تكتسبها حالة استخدام معينة بالفعل، وما الذي يجب أن يكون صحيحًا قبل منحها.

وقال: “إن عناصر التحكم التي يتضمنها هذا تعيش في الغالب خارج النموذج: وضع الحماية، وبيانات الاعتماد التي تم تحديد نطاقها وتنتهي صلاحيتها، وهوية الوكيل التي ليست مجرد حساب مهندس ما، ومستويات الإشراف التي تحددها السياسة، والتسجيل المفصل بما فيه الكفاية بحيث يمكنك العودة لاحقًا ومعرفة سبب قيامه بما فعله”. “لقد قمنا ببناء عملاء بهذه الضوابط منذ فترة. إن بناء وكيل يعمل في المختبر أمر سهل؛ أما تشغيله مع الإشراف وحواجز الحماية فهو يتطلب قدرًا كبيرًا من العمل.

“النقطة التي أود التأكيد عليها هي أصغر وأقل بريقًا: يقول مركز NCSC إنه يجب التحكم في نشاط الوكيل ومراقبته مثل نشاط المستخدم. وهذا هو الجزء الذي لا يضعه أحد في الميزانية.

وأضاف باريك: “أنت لا تنشر أداة، بل تقوم بتأهيل مستخدم يعمل ليلاً وعطلات نهاية الأسبوع ولا يطلب الإذن أبدًا، ويجب أن يكون شخص ما قادرًا على إيقافه فورًا، دون اجتماع”. “إذا لم تتمكن من تحديد ما فعله وكيلك في الساعة الثانية صباحًا، أو من قام بإيقاف العمل في الساعة الثانية صباحًا، فلن يكون لديك عملية نشر. لديك تجربة قيد التشغيل في الإنتاج.”

على مستوى عالٍ، تدعو إرشادات NCSC الأوسع نطاقًا المؤسسات إلى تقييم مدى تقبلها للمخاطر ومدى الاستقلالية التي يحتاجها النظام الوكيل، بناءً على ما يفعلونه فعليًا، وتطبيق ضوابط أكثر صرامة على نطاق متدرج. وهذا يعني أنه ينبغي وضع أشد القيود على الوكلاء الموثوق بهم لأداء مهام مثل الوصول إلى أنظمة الإنتاج واتخاذ القرارات، ربما في سيناريوهات عالية المخاطر، دون مدخلات عضوية. إن الوضوح بشأن هذه النقطة سوف يفيد تصميم الضوابط المتناسبة.

علاوة على ذلك، تحتاج المؤسسات إلى فهم الضمانات الحالية للنموذج الذي اختارته ضد السلوك غير المرغوب فيه، والتخطيط لتوفير ضمانات إضافية عندما ترتفع عواقب الفشل إلى مستوى أعلى من مستوى تحمل المخاطر. تعتبر إرشادات NCSC واضحة من حيث أنه لا ينبغي للمؤسسات أن تعتمد فقط على نماذج الحماية المضمنة.

إلى جانب الخيار النووي لمفتاح القتل، تتضمن بعض الخطوات التي يجب على المنظمات اتخاذها في هذه العملية ما يلي:

• تحديد وفهم الأخطاء التي يمكن أن تحدث وإجراء نمذجة التهديدات لتحديد سيناريوهات الفشل؛
• توخي الحذر الشديد عند المطالبة بالتعليمات والصراحة بشأن الأشياء التي لا ينبغي للوكلاء القيام بها؛
• إنشاء مستوى مناسب من الرقابة، مع الأخذ في الاعتبار عوامل مثل مدى مشاركة البشر في الموافقة على الإجراءات، وتسلسل القيادة والمسؤولية، وما إلى ذلك؛
• إنشاء بيئة اختبار قوية للتحكم في بيئة الوكيل، مع وضع حدود واضحة، والاهتمام بعوامل مثل الشبكة الخارجية أو الوصول إلى بيانات الاعتماد؛
• إعداد وسيلة لتدقيق وتسجيل ومراقبة نشاط الوكيل في عمليات العمليات الأمنية الأوسع؛
• في حالة تمكينهم من التواصل مع أنظمة الطرف الثالث، يجب أن يكون من السهل إسناد نشاط الوكيل، على سبيل المثال، يجب أن تأتي حركة المرور من عناوين IP التي تدعم عمليات البحث العكسي.

إن إرشادات NCSC، بما في ذلك المزيد من التفاصيل حول الخطوات المذكورة أعلاه، متاحة للقراءة بالكامل في موقعها على الانترنت.