تعلن حكومة المملكة المتحدة عن منح بقيمة 8.5 مليون جنيه إسترليني لأبحاث سلامة الذكاء الاصطناعي

أعلنت السكرتيرة الرقمية ميشيل دونيلان أن حكومة المملكة المتحدة ستقدم ما يصل إلى 8.5 مليون جنيه إسترليني في شكل منح لأبحاث سلامة الذكاء الاصطناعي (AI)، خلال اليوم الثاني من قمة الذكاء الاصطناعي في سيول.

بينما سيترأس برنامج البحث الشامل معهد سلامة الذكاء الاصطناعي (AISI) في المملكة المتحدة، والذي كان أنشئت في الفترة التي سبقت إلى الافتتاح قمة سلامة الذكاء الاصطناعي في بلتشلي بارك في نوفمبر 2023سيتم منح المنح للباحثين الذين يدرسون أفضل السبل لحماية المجتمع من المخاطر المرتبطة بالذكاء الاصطناعي، مثل التزييف العميق والهجمات السيبرانية.

وقالت الحكومة إن المنح البحثية سيتم تقديمها أيضًا لأولئك الذين يدرسون طرق تسخير فوائد الذكاء الاصطناعي لزيادة الإنتاجية، على سبيل المثال، مضيفة أن المقترحات الواعدة سيتم تطويرها إلى مشاريع طويلة الأجل ويمكن أن تحصل على مزيد من التمويل في المستقبل.

يتم تقديم برنامج AISI بالشراكة مع المملكة المتحدة للأبحاث والابتكار (UKRI) ومعهد آلان تورينج، وسيهدف أيضًا إلى التعاون مع معاهد سلامة الذكاء الاصطناعي الأخرى على مستوى العالم، وفقًا لـ بيان نوايا سيول تجاه التعاون الدولي في علوم سلامة الذكاء الاصطناعي وقعتها 10 دول والاتحاد الأوروبي في اليوم الأول من قمة كوريا الجنوبية.

وأضافت الحكومة أن برنامج المنح مصمم أيضًا لتوسيع نطاق اختصاص AISI ليشمل مجال “سلامة الذكاء الاصطناعي النظامية”، والذي يهدف إلى فهم وتخفيف آثار الذكاء الاصطناعي على المستوى المجتمعي، وكذلك معرفة كيفية قيام المؤسسات المختلفة والأنظمة والبنية التحتية يمكن أن تتكيف مع التكنولوجيا.

وبينما يجب أن يكون المتقدمون للمنح مقيمين في المملكة المتحدة، قالت الحكومة إنه سيتم تشجيعهم بشكل نشط على التعاون مع باحثين آخرين من جميع أنحاء العالم.

قال دونيلان: “عندما أطلقت المملكة المتحدة أول معهد لسلامة الذكاء الاصطناعي في العالم العام الماضي، التزمنا بتحقيق مهمة طموحة وعاجلة لجني الفوائد الإيجابية للذكاء الاصطناعي من خلال تعزيز قضية سلامة الذكاء الاصطناعي”.

“مع وجود أنظمة تقييم لنماذج الذكاء الاصطناعي الآن، فإن المرحلة الثانية من خطتي لتسخير فرص الذكاء الاصطناعي بأمان يجب أن تدور حول جعل الذكاء الاصطناعي آمنًا في جميع أنحاء المجتمع.

“هذا هو بالضبط ما نجعله ممكنًا من خلال هذا التمويل، والذي سيسمح لمعهدنا بالشراكة مع الأوساط الأكاديمية والصناعية لضمان استمرارنا في العمل الاستباقي في تطوير أساليب جديدة يمكن أن تساعدنا على ضمان استمرار الذكاء الاصطناعي في كونه قوة تحويلية من أجل الخير. “

تصوير ديفيد وولفال

“سيسمح هذا التمويل لمعهد سلامة الذكاء الاصطناعي لدينا بالشراكة مع الأوساط الأكاديمية والصناعية لضمان استمرارنا في العمل الاستباقي في تطوير أساليب جديدة يمكن أن تساعدنا على ضمان استمرار الذكاء الاصطناعي في كونه قوة تحويلية من أجل الخير”

ميشيل دونيلان، وزيرة الدولة للعلوم والابتكار والتكنولوجيا

ووصف كريستوفر سمرفيلد، مدير الأبحاث في AISI، البرنامج الجديد بأنه “خطوة رئيسية” لضمان نشر الذكاء الاصطناعي بأمان في جميع أنحاء المجتمع. وقال: “نحن بحاجة إلى التفكير مليًا في كيفية تكييف بنيتنا التحتية وأنظمتنا مع عالم جديد يكون فيه الذكاء الاصطناعي جزءًا لا يتجزأ من كل ما نقوم به”. “تم تصميم هذا البرنامج لتوليد مجموعة كبيرة من الأفكار حول كيفية معالجة هذه المشكلة، وللمساعدة في التأكد من إمكانية وضع الأفكار العظيمة موضع التنفيذ.”

وفي اليوم الأول من قمة سيول، أعلنت الحكومة عن الفائزين العشرة في القمة جائزة مانشستر الافتتاحية، والتي تم إنشاؤها في مارس 2023 لتمويل اختراقات الذكاء الاصطناعي التي تساهم في الصالح العام. سيحصل كل من المتأهلين للتصفيات النهائية على حصة من الجائزة المالية البالغة مليون جنيه إسترليني، وسيتطلعون إلى معالجة تحديات الطاقة والبنية التحتية والبيئة باستخدام الذكاء الاصطناعي.

وسيستفيد الفائزون أيضًا من حزم الدعم الشاملة، بما في ذلك تمويل موارد الحوسبة، ودعم جاهزية المستثمرين، والوصول إلى شبكة من الخبراء.

قبل أسبوع من إعلان التمويل، AISI أصدرت علنًا مجموعة من نتائج اختبارات سلامة الذكاء الاصطناعي لأول مرة، والتي وجدت أن أياً من النماذج الخمسة التي لم يتم تسميتها والتي تم اختبارها لم تكن قادرة على القيام بمهام أكثر تعقيداً وتستغرق وقتاً طويلاً دون إشراف البشر عليها، وأن جميعها تظل معرضة بشدة لـ “عمليات كسر الحماية” الأساسية لضماناتها. ووجدت أيضًا أن بعض النماذج ستنتج مخرجات ضارة حتى بدون محاولات مخصصة للتحايل على هذه الضمانات.

كما أعلنت AISI عن خطط للقيام بذلك افتح فرعًا جديدًا في سان فرانسيسكو خلال فصل الصيف للوصول إلى شركات الذكاء الاصطناعي الرائدة والمواهب التقنية في منطقة الخليج.

وأضاف دونيلان في حديثه في سيول: “إنني أدرك تمامًا أنه لا يمكننا تحقيق هذا التحدي الكبير إلا من خلال الاستفادة من مجموعة واسعة ومتنوعة من المواهب والتخصصات، والمضي قدمًا في أساليب جديدة تدفع حدود المعرفة والمنهجيات الحالية”.

في اليوم الأول من قمة الذكاء الاصطناعي في سيول، وقعت 16 شركة ذكاء اصطناعي من جميع أنحاء العالم على الاتفاقية التزامات السلامة الخاصة بشركة Frontier AI، وهي مجموعة من الالتزامات الطوعية لضمان تطوير التكنولوجيا بشكل آمن ومسؤول.

أحد الالتزامات الطوعية الرئيسية التي تم التعهد بها هو أن الشركات لن تطور أو تنشر أنظمة الذكاء الاصطناعي إذا لم يكن من الممكن تخفيف المخاطر بشكل كافٍ، على الرغم من أنه لم يتم بعد تحديد الخطوط الحمراء حول ما يشكل خطرًا لا يمكن التخفيف منه.

الاتحاد الأوروبي ونفس الدول العشر التي وقعت على الاتفاقية بيان نوايا سيول حول التعاون البحثي في ​​مجال سلامة الذكاء الاصطناعي وقعت أيضًا إعلان سيول، والتي أكدت صراحة على “أهمية التعاون النشط بين أصحاب المصلحة المتعددين” في هذا المجال وألزمت الحكومة المشاركة “بنشاط” تضمين مجموعة واسعة من أصحاب المصلحة في المناقشات المتعلقة بالذكاء الاصطناعي.

وكان من بين الموقعين أستراليا وكندا والاتحاد الأوروبي وفرنسا وألمانيا وإيطاليا واليابان وجمهورية كوريا وجمهورية سنغافورة والمملكة المتحدة والولايات المتحدة.