قمة الذكاء الاصطناعي في سيول: 27 دولة والاتحاد الأوروبي يضعون خطوطًا حمراء بشأن مخاطر الذكاء الاصطناعي

التزمت أكثر من عشرين دولة بوضع عتبات المخاطر المشتركة لنماذج الذكاء الاصطناعي الحدودية للحد من آثارها الضارة، كجزء من اتفاقية لتعزيز الذكاء الاصطناعي الآمن والمبتكر والشامل.

تم التوقيع عليه في اليوم الثاني من قمة الذكاء الاصطناعي في سيول من قبل 27 حكومة والاتحاد الأوروبي بيان سيول الوزاري لتعزيز سلامة الذكاء الاصطناعي والابتكار والشمولية ويحدد التزامهم بتعميق التعاون الدولي في مجال سلامة الذكاء الاصطناعي.

وسيشمل ذلك الاتفاق بشكل جماعي على عتبات المخاطر حيث تكون المخاطر التي تشكلها نماذج أو أنظمة الذكاء الاصطناعي شديدة دون إجراءات التخفيف المناسبة؛ وإنشاء أطر إدارة مخاطر قابلة للتشغيل البيني للذكاء الاصطناعي في ولاياتها القضائية؛ وتعزيز التقييمات الخارجية الموثوقة لنماذج الذكاء الاصطناعي.

وفيما يتعلق بالمخاطر الشديدة، سلط البيان الضوء على إمكانات نموذج الذكاء الاصطناعي التي من شأنها أن تسمح للأنظمة بالتهرب من الرقابة البشرية، أو التصرف بشكل مستقل دون موافقة أو إذن بشري صريح؛ فضلاً عن مساعدة الجهات الفاعلة غير الحكومية على المضي قدماً في تطوير الأسلحة الكيميائية أو البيولوجية.

وأشار البيان إلى أنه “من الضروري الوقاية من مجموعة كاملة من مخاطر الذكاء الاصطناعي”، وأضاف البيان أنه سيتم استخدام معاهد سلامة الذكاء الاصطناعي التي يتم إنشاؤها في جميع أنحاء العالم لتبادل أفضل الممارسات ومجموعات بيانات التقييم، بالإضافة إلى التعاون لإنشاء اختبارات سلامة قابلة للتشغيل البيني. القواعد الارشادية.

“قد تشمل معايير تقييم المخاطر التي تشكلها نماذج أو أنظمة الذكاء الاصطناعي الحدودية النظر في القدرات والقيود والنزعات والضمانات المنفذة، بما في ذلك المتانة ضد الهجمات والتلاعب الخصومة الخبيثة، والاستخدامات وإساءات الاستخدام المتوقعة، وسياقات النشر، بما في ذلك النظام الأوسع الذي يتم فيه استخدام الذكاء الاصطناعي. قد يكون نموذج الذكاء الاصطناعي متكاملاً ومدى الوصول وعوامل الخطر الأخرى ذات الصلة.

ومع ذلك، على الرغم من أن البيان يفتقر إلى التحديد، إلا أنه أكد ذلك التزام الموقعين بالقوانين الدولية ذات الصلةبما في ذلك قرارات الأمم المتحدة وحقوق الإنسان الدولية.

وقالت الوزيرة الرقمية البريطانية ميشيل دونيلان إن الاتفاقيات التي تم التوصل إليها في سيول تمثل بداية “المرحلة الثانية من أجندة سلامة الذكاء الاصطناعي”، حيث ستتخذ الدول “خطوات ملموسة” لتصبح أكثر مرونة في مواجهة مخاطر الذكاء الاصطناعي المختلفة.

وقالت: “بالنسبة للشركات، يتعلق الأمر بوضع حدود للمخاطرة، والتي لن يتم بعدها إطلاق نماذجهم”. “بالنسبة للبلدان، سوف نتعاون لتحديد العتبات التي تصبح فيها المخاطر شديدة. وستواصل المملكة المتحدة لعب الدور الرائد على الساحة العالمية لتعزيز هذه المحادثات.