هذا التقرير مأخوذ من نشرة The Tech Download الإخبارية لهذا الأسبوع. مثل ما ترى؟ يمكنك الاشتراك هنا.
اكتسبت المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي – وقدرتها على القضاء على البشرية – زخمًا فيروسيًا جديدًا هذا الأسبوع.
قال إيفان هوبنجر، قائد المحاذاة في Anthropic، في برنامج X إنه يعتقد أن هناك فرصة تزيد عن 10% أن يتمكن الذكاء الاصطناعي من تحقيق ذلك. قتل جميع البشر خلال العقد التالي، بعد استقالة أحد الزملاء بسبب مخاوف تتعلق بالسلامة.
أكثر تحذيرات من الباحثين تبع ذلك في كل من Anthropic وOpenAI. جديلة جنون وسائل التواصل الاجتماعي.
لكن رد هوبنجر على منشوره هو الذي كشف بالضبط عن مخاوفه.
وقال: “ما يقلقني هو الذكاء الفائق الناشئ عن التحسين الذاتي المتكرر، كما قلنا أنه يحدث بشكل أسرع مما كنا نعتقد”.
التحسين الذاتي العودي، أو RSI، هو عندما يساعد الذكاء الاصطناعي نفسه على تحسين عملية بناء نماذج جديدة، مما قد يؤدي إلى تصاعد القدرة حيث تقوم الأنظمة الأفضل ببناء أنظمة أفضل وما إلى ذلك.
ومكمن القلق هو أنه إذا سيطر الذكاء الاصطناعي على كيفية تدريب النماذج الجديدة، فإن البشر الذين بنوا هذه الأنظمة في البداية قد يفقدون السيطرة.
تحذيرات
قال كل من OpenAI وAnthropic في الأشهر الأخيرة إن تحسين النموذج المستقل هذا يحدث بشكل أسرع مما كانا يعتقدان.
“تُظهر بياناتنا الداخلية أن كلود يعمل على تسريع تطوير الذكاء الاصطناعي – وهو طريق محتمل للتحسين الذاتي المتكرر، أو بناء الذكاء الاصطناعي بشكل مستقل لخليفة أكثر قدرة،” نشرت Anthropic على موقع X في يونيو. “إن الأمر يحدث بشكل أسرع مما كنا نظن، والآثار المترتبة عليه تستحق اهتماما أكبر.”
على الرغم من أن الذكاء الاصطناعي لم يصل إلى نقطة مؤشر القوة النسبية (RSI) بعد، إلا أنه يعمل بالفعل على تسريع تطوير أنظمة الذكاء الاصطناعي. قالت Anthropic في منشور على مدونة بتاريخ أغسطس حول RSI أن مهندسيها يقومون في المتوسط بشحن ثمانية أضعاف التعليمات البرمجية كل ربع سنة كما فعلوا بين 2021-2025.
قال لي فنسنت كونيتزر، أستاذ علوم الكمبيوتر في جامعة كارنيجي ميلون: “لقد وصل الذكاء الاصطناعي بالفعل إلى المستوى الذي يمكنه من تقديم بعض الأفكار الجديدة”. “لذا من الصعب جدًا التنبؤ عند أي نقطة ستبدأ هذه العملية في تسريع قدرات الذكاء الاصطناعي بشكل كبير.”
يوم السبت، قال كبير العلماء في OpenAI، جاكوب باتشوكي، إنه يشعر بالقلق من أنه “لم يكن أحد مستعدًا لعواقب الارتفاع السريع المستمر في الذكاء الآلي”.
وكتب في منشور على مدونة الشركة: “إذا استمر تطوير الذكاء الاصطناعي على طول مساره الحالي، فمن المرجح أن تمثل الأنظمة التي سنراها في السنوات القليلة المقبلة قفزات إضافية في القدرات بنفس الحجم أو أكبر، وأن تدفع تطورها بشكل متزايد”.
هذا الأسبوع، غمرت التحذيرات بشأن مؤشر القوة النسبية وسائل التواصل الاجتماعي من الباحثين في كلا المختبرين الرائدين، بعد استقالة جاكوب كوكسون المفاجئة.
قالت جاسمين وانج، باحثة في OpenAI تعمل على المحاذاة، مساء الأربعاء: “من الصعب المبالغة في تقدير مدى خطورة السرعة تجاه مؤشر القوة النسبية”.
“لا توجد حتى الآن خطة علمية قابلة للتطبيق لحل المخاطر الناجمة عن التحسين الذاتي المتكرر للذكاء الاصطناعي. يرجى البحث!” قالت آنا وانغ، التي تعمل على سلامة ومواءمة الذكاء الاصطناعي العام في Anthropic.
المستقبل
أنهت Anthropic تدوينة مؤشر القوة النسبية (RSI) من خلال وضع ثلاثة سيناريوهات محتملة.
في أحد السيناريوهات، ينتشر التقدم على مستوى الحدود وقدرات الذكاء الاصطناعي على نطاق واسع. قالت الأنثروبيك إنها لا تعتقد أن هذا محتمل.
الاحتمال الثاني هو أن مختبرات الذكاء الاصطناعي تستمر في تحقيق مكاسب مع سيطرة البشر، مما يغير الطريقة التي يعمل بها العالم. قال أنثروبيك إن هذا “محتمل”.
ولكن، هناك سيناريو آخر يمكن أن يرى أن أنظمة الذكاء الاصطناعي أصبحت قادرة على التحسين الذاتي المتكرر الكامل، مع لعب البشر “دورًا متضائلًا إلى حد كبير في تطورهم”.
كيف “مشكلة المحاذاة [the challenge of ensuring AI pursues goals aligned with humans’] سيتم حلها – أو لا – في هذا المستقبل، وهو أمر نحن أقل يقينًا بشأنه.”
تحرير الأخبار
شيء آخر
The Tech Download Podcast: إيدان جوميز، الرئيس التنفيذي لشركة Cohere
قبل أن يتولى Aidan Gomez المنصب الأعلى في شركة Cohere الناشئة للذكاء الاصطناعي، كان أحد المؤلفين المشاركين لورقة البحث لعام 2017 Attention Is All You Need، والمعروفة باسم ورقة Transformer.
أصبح هذا الاختراق الأساس لتقنيات مثل ChatGPT وClaude وGemini وكل نماذج اللغات الكبيرة الرئيسية المستخدمة اليوم.
تتطلع شركة Cohere، التي تطور نماذج وتطبيقات الذكاء الاصطناعي خصيصًا للشركات، إلى التميز في الصناعة من خلال وضع نفسها كلاعب غير أمريكي وغير صيني يمكنه تقديم الذكاء الاصطناعي “السيادي”.
مع تزايد قلق الشركات بشأن من يمكنه الوصول إلى بياناتها، وأين تتم معالجة هذه البيانات وما يعنيه ذلك في النهاية بالنسبة لأعمالها، تقدم Cohere وجهة نظر مختلفة.
طوال محادثتنا، تحدث جوميز عن بعض أهم الموضوعات في مجال الذكاء الاصطناعي، بدءًا من تحديات الأمن السيبراني وحتى الصين.
وقال جوميز إن بعض نماذج الذكاء الاصطناعي هي “أقوى سلاح إلكتروني تم إنشاؤه على الإطلاق”. وفيما يتعلق بنماذج الذكاء الاصطناعي القادمة من الصين، قال جوميز إن تقدم المختبرات الأمريكية “يتبخر بسرعة كبيرة”.
— أرجون خاربال، كبير مراسلي التكنولوجيا
