تقول الهيئة المدعومة من الحكومة البريطانية إن ضمانات الذكاء الاصطناعي تتحسن

ويبدو أن الضمانات المعمول بها لضمان أن نماذج الذكاء الاصطناعي تتصرف بشكل مناسب وعلى النحو المنشود تتحسن، أو هكذا تدعي حكومة المملكة المتحدة. معهد أمن الذكاء الاصطناعي (AISI)، والتي تطلق اليوم تقريرًا متعمقًا يعتمد على عامين من البحث والتجريب في مجال الذكاء الاصطناعي في مجال الأمن السيبراني والتخصصات العلمية الأخرى.

ال تقرير اتجاهات الذكاء الاصطناعي الحدودي هو تقييم عام لكيفية تطور أنظمة الذكاء الاصطناعي المتقدمة، وهو مصمم لتوفير رؤية “واضحة وقائمة على الأدلة” لأنظمة الذكاء الاصطناعي المتقدمة وتعزيز المناقشات التي غالبًا ما تكون مدفوعة بالتكهنات ونقص الأدلة.

وقال كانيشكا نارايان، وزير الذكاء الاصطناعي: “يوضح هذا التقرير مدى جدية المملكة المتحدة في التعامل مع التطوير المسؤول للذكاء الاصطناعي. وهذا يعني التأكد من أن وسائل الحماية قوية، والعمل مباشرة مع المطورين لاختبار الأنظمة الرائدة، والعثور على نقاط الضعف وإصلاحها قبل استخدامها على نطاق واسع”.

وقال: “من خلال معهد أمن الذكاء الاصطناعي الرائد عالميًا، نقوم ببناء القدرة العلمية داخل الحكومة لفهم هذه الأنظمة أثناء تطورها، وليس بعد حدوثها، ولرفع المعايير عبر القطاع”.

“يضع هذا التقرير الأدلة، وليس التكهنات، في صميم طريقة تفكيرنا في الذكاء الاصطناعي، حتى نتمكن من إطلاق فوائده للنمو وتحسين الخدمات العامة والتجديد الوطني، مع الحفاظ على الثقة والسلامة في المقدمة والمركز.”

وقالت AISI إنه على الرغم من أن كل نظام اختبرته كان عرضة لنوع من التجاوز، وتختلف إجراءات الحماية بشكل كبير، إلا أنه لا يزال يتم تحقيق خطوات كبيرة. إحدى هذه الخطوات كانت في طول الوقت الذي استغرقه الفريق الأحمر في المعهد للعثور على كسر حماية عالمي لقواعد سلامة النموذج، والذي زاد من دقائق إلى عدة ساعات عبر أجيال متعددة من النماذج، مما يمثل تحسنًا كبيرًا.

وفي المسائل الأخرى المتعلقة بالأمن السيبراني، وجدت AISI أن نماذج الذكاء الاصطناعي التي تعمل على المهام السيبرانية على مستوى المتدربين كانت ناجحة في حوالي نصف الوقت، مقارنة بأقل من 10٪ من الوقت قبل 24 شهرًا فقط.

علاوة على ذلك، يبدو أن مدة المهام السيبرانية التي يمكن لأنظمة الذكاء الاصطناعي إكمالها دون أي توجيه بشري تتضاعف كل ثمانية أشهر، وهذا العام، ولأول مرة، أكمل AISI، وهو نموذج للذكاء الاصطناعي، مهمة إلكترونية متخصصة، تم تعريفها على أنها مهمة يحتاجها الإنسان ما يصل إلى 10 سنوات من الخبرة في العمل لتحقيق أنفسهم.

وتشمل النتائج الرئيسية الأخرى ــ التي لا علاقة لها بالأمن السيبراني ــ نظرة ثاقبة على وتيرة تطور نماذج الذكاء الاصطناعي في هندسة البرمجيات، والتي يستطيع الكثير منها الآن إكمال مهام هندسة البرمجيات لمدة ساعة أكثر من 40% من الوقت، ارتفاعا من 5% في عام 2023. وفي مجالات البيولوجيا والكيمياء، من المفترض الآن أن تتفوق بعض الأنظمة على الباحثين على مستوى الدكتوراه في اختبارات المعرفة العلمية وتجعل الخبرة المعملية الأعلى مستوى في متناول الأشخاص العاديين.

حدد تحليل AISI أيضًا بعض العلامات المبكرة للقدرات المرتبطة بالاستقلالية، ولكن لم يتم رؤيتها إلا في ظروف تجريبية خاضعة لرقابة مشددة ولم يُظهر أي من نماذج الذكاء الاصطناعي التي تم اختبارها سلوكًا ضارًا أو عفويًا، على الرغم من أن المعهد أشار إلى أن مثل هذه العوامل يجب أن تؤخذ في الاعتبار وتتبعها عاجلاً وليس آجلاً.