يقول عضو مجلس الإدارة إن OpenAI ليس على الطريق الصحيح لتقليل مخاطر فقدان السيطرة “الكارثي” | الذكاء الاصطناعي (الذكاء الاصطناعي)

قال أحد أعضاء مجلس إدارتها غير الربحي إن شركة OpenAI ليست على الطريق الصحيح لتقليل خطر فقدان السيطرة “الكارثي” إلى مستوى مقبول، وسط انتشار القلق العام والسياسي من أن الذكاء الاصطناعي الفائق التقدم يمكن أن يمحو البشرية يومًا ما.

بول كريستيانو، المستشار التكنولوجي للحكومة الأمريكية، قال: “هناك خطر كبير من أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى فقدان السيطرة بشكل كارثي ولا رجعة فيه على المدى القريب جدًا.”

وأضاف: “لا أعتقد أن صناعة الذكاء الاصطناعي بشكل عام، بما في ذلك OpenAI، تسير حاليًا على المسار الصحيح لتقليل هذا الخطر إلى مستوى مقبول”.

اعتاد كريستيانو على تشغيل محاذاة النماذج في OpenAI وأدلى بهذا التصريح يوم الأربعاء عندما انضم إلى مجلس إدارة المؤسسة غير الربحية التابعة لشركة سان فرانسيسكو.

وسيكون أيضًا عضوًا في لجنة المؤسسة التي توفر الإدارة لممارسات السلامة والأمن عبر جميع OpenAI، والتي تعمل على تطوير بعض النماذج الأكثر تقدمًا في العالم.

هذا الصيف، اعترفت شركة OpenAI بأن المئات من عملاء الذكاء الاصطناعي التابعين لها انحرفوا خلال تمرين تدريبي، ودخلوا إلى الإنترنت، وتآمروا على لوحات الرسائل، واخترقوا موقعًا إلكترونيًا تابعًا لجهة خارجية، وهو Hugging Face.

قال كريستيانو: “إذا ارتقت OpenAI إلى مستوى المناسبة، فيمكننا تقليل المخاطر بشكل كبير”. جاءت تعليقاته بعد أن قال أحد كبار الموظفين في Anthropic، المنافس الأمريكي الرئيسي لـ OpenAI في السباق نحو تفوق الذكاء الاصطناعي، ادعى يوم الثلاثاء كان هناك احتمال بنسبة تزيد عن 10% أن تتمكن التكنولوجيا من “قتل جميع البشر” في العقد المقبل.

إيفان هوبنجر، قائد علم المحاذاة في أنثروبيوحذر من أن شركته ليس لديها خطة لضمان توافق الذكاء الاصطناعي الفائق (ASI)، مما يعني أنه لم يسبب أي ضرر. التنبؤات عندما ASI يمكن الوصول إليها من عدة سنوات إلى أكثر من عقد من الزمن. غالبًا ما يتم تعريف ASI على أنه الذكاء الاصطناعي الذي يفوق بكثير الذكاء البشري عبر مجموعة كبيرة من المجالات.

كما اشتعلت المخاوف من كارثة الذكاء الاصطناعي بعد استقالة جاكوب كوكسون، البالغ من العمر 27 عاماً. أنثروبي الباحث الذي قال إنه عمل سابقًا أيضًا في OpenAI، مدعيًا أن “أيًا من الشركتين لم تكن تتصرف بمسؤولية” وأنهما “كانا يقامران بحياتنا”.

وقال كوكسون ليلة الأربعاء في مقابلة مع شبكة سي إن إن: “في الوقت الحالي لا يوجد خطر الانقراض.

“النماذج الحالية، أسوأ ما يمكنها فعله هو اختراق شيء ما، مما قد يتسبب في الكثير من الأضرار … في البنية التحتية.” وأضاف أنهم “ليسوا أذكياء بما يكفي ليتفوقوا علينا بالذكاء إلى المستوى الذي قد يؤدي إلى الانقراض”.

لكنه استطرد: “الأمر الجنوني هو النظر إلى معدل التقدم. هناك احتمال حقيقي للغاية أنه في المستقبل القريب… في العام المقبل، في العام الذي يليه، سيحدث التحسين الذاتي المتكرر وسيدخل مرحلة مقال إيفان، حيث يجادل بأن هناك فرصة لأن نموت جميعًا”.

سُئل جيفري هينتون، عالم الكمبيوتر الحائز على جائزة نوبل والمعروف بأنه أحد “عرابي الذكاء الاصطناعي”، يوم الأربعاء عن وجهة نظره في ادعاء هوبنجر، فقال لبي بي سي نيوزنايت: “لا أحد يعرف كيفية تقديره؛ فرصة 10٪ لا تبدو تقديرًا غير معقول”.

جاءت توقعات كريستيانو حول احتمالية تقليل المخاطر في صناعة الذكاء الاصطناعي في الوقت الذي اندلعت فيه المخاوف بشأن المخاطر الأكثر تطرفًا من الذكاء الاصطناعي فائق القوة، والتي نوقشت منذ فترة طويلة في وادي السيليكون، في الاتجاه السائد هذا الأسبوع.

السياسيون على جانبي المحيط الأطلسي، من تيد كروز وبيرني ساندرز وفي الولايات المتحدة إلى النائب دارين جونز في المملكة المتحدة، دعوا إلى اتخاذ إجراءات حكومية، وقال رئيس وزراء المملكة المتحدة، آندي بورنهام، للبرلمان يوم الأربعاء إن “الذكاء الاصطناعي يشكل مخاطر على أمننا القومي، ولكنه يمكن أن يكون أيضًا مصدرًا للحلول للحفاظ على أماننا”.

وفي الوقت نفسه، الأنثروبي لديه اعترف حادثة جديدة اقتحمت فيها نسخة من نموذج كلود الخاص بها في التدريب أطرافًا ثالثة بعد أن تعذر إحباط مهمتها. وقالت إن الحادث وقع في يناير/كانون الثاني، وسيتم إدراجه في تحقيق مستقل لما مجموعه أربع حوادث ستنفذه منظمة METR لسلامة الذكاء الاصطناعي ومقرها بيركلي.

بشكل عام، قالت إن النماذج أظهرت شكلين من الاختلال: الاستدلال المتحيز، حيث تفسر النماذج الأدلة بشكل انتقائي بطرق تفضل تبرير أفعالها، و”التهور، حيث تميل النماذج إلى الاستمرار في محاولة حل مهمتها، حتى عندما قد يؤدي ذلك إلى ضرر”.

وقالت Anthropic إنها تشعر بالقلق بشكل خاص بشأن الاختلال الذي وجدته في سلوك Claude Mythos 5، والذي قالت إنه “تصرف بتهور” من خلال الاتصال بالإنترنت وتحميل تعليمات برمجية ضارة إلى مستودع برمجيات عام، PyPI. كانت هذه عملية تضمنت محاولة وكيل الذكاء الاصطناعي العثور على عملة مشفرة حتى يتمكن من الدفع مقابل رقم هاتف يسمح له بتسجيل عنوان البريد الإلكتروني المطلوب للوصول إلى PyPI. عندما فشل ذلك، عثر على مزود بريد إلكتروني مجاني ودخل. ثم قام خمسة عشر نظامًا بتنزيل التعليمات البرمجية الضارة، مما يعني أنهم قاموا بتسريب بيانات الاعتماد التي سمحت لـ Mythos بالوصول إلى قاعدة بيانات بائعي الأمن الحقيقي.

وجاء في تقييم الشركة للحوادث: “يظل هذا علمًا غير مستقر – من الأهمية بمكان أن تنضج المواءمة والأمن بشكل أسرع من تقدم القدرات، وهو أحد الأسباب التي تجعلنا ندعم نهجًا منسقًا يمكن التحقق منه للتعامل مع هذه الحوادث”. تسريع وتيرة تطوير الذكاء الاصطناعي الحدودي“.