يقوم الباحثون في OpenAI والأنثروبيك بتكثيف الدعوات لإبطاء الذكاء الاصطناعي والتحذير من المخاطر الوجودية على البشرية بعد استقالة الباحث في الأنثروبيك غذت التدقيق الجديد.
بدأت المخاوف بعد أن قال الباحث الأنثروبيكي جاكوب كوكسون يوم الثلاثاء إنه سيترك الشركة لأنه اتهم شركة الأنثروبيك ومنافستها OpenAI بـ “المقامرة بحياتنا”. وأضاف أن أولئك الذين يبنون الذكاء الاصطناعي يعتقدون أنه يمكن أن “يقتلنا جميعًا بحلول نهاية العقد”. أجاب إيفان هوبنجر، قائد محاذاة الأنثروبيك، بأنه يتوقع أن هناك فرصة تزيد عن 10٪ لحدوث ذلك.
منذ ذلك الحين، خرج العديد من الموظفين في كلا مختبري الذكاء الاصطناعي لدعم الدعوات لإبطاء وتيرة تطوير الذكاء الاصطناعي وشدد على مخاطر التكنولوجيا. تعد التحذيرات العامة تتويجًا للقلق المتزايد على مستوى العالم بشأن قدرة الذكاء الاصطناعي، في أعقاب العديد من الهجمات الإلكترونية والحوادث الأمنية في الأشهر الأخيرة من قبل نماذج مارقة طورتها كل من OpenAI وAnthropic.
وقالت جولي ستيل، عضو الطاقم الفني في OpenAI والتي تعمل في فريق السلامة، في وقت متأخر من يوم الأربعاء في منشور على X ردًا على تحذيرات كوكسون: “بصفتي الشخصية، أعتقد أيضًا أننا بحاجة إلى التباطؤ”.
قال الباحث الأنثروبولوجي صامويل ماركس إن “مطوري الذكاء الاصطناعي يعتقدون أن تقنيتهم يمكن أن تسبب انقراض الإنسان (أو نتائج سيئة مماثلة)” في منشور X يوم الأربعاء. “قد يحدث هذا في السنوات القليلة المقبلة. بشكل عام، كلما كان الموظف في رتبة أعلى، كلما زاد قلقه.”
كان Anthropic هو أول مختبر ينشر إطارًا مخصصًا للتخفيف من “المخاطر الكارثية الناجمة عن نماذج الذكاء الاصطناعي”، حسبما قال متحدث باسم CNBC عندما سئل عن تعليقات الموظفين على وسائل التواصل الاجتماعي.
وقال متحدث باسم Anthropic: “لقد كنا دائمًا شفافين بشأن أن الذكاء الاصطناعي سيجلب فوائد هائلة ومخاطر غير مسبوقة”، مضيفًا أن الشركة كانت تبني نماذج تتمتع “ببعض أقوى الضمانات في الصناعة”.
رفضت شركة OpenAI التعليق عندما اتصلت بها CNBC، مشيرةً إلى منشورات المدونة الأخيرة على موقعها.
ما هو التحسين الذاتي العودي؟
تدور العديد من أكبر المخاوف المتعلقة بالسلامة في مجال الذكاء الاصطناعي حول زيادة قدرة النماذج المتقدمة على تحسين أدائها، وهي تقنية تُعرف باسم التحسين الذاتي العودي، أو RSI.
“من الصعب المبالغة في تقدير مدى خطورة السرعة تجاه مؤشر القوة النسبية” قال جاسمين وانج، باحثة في OpenAI تعمل على المحاذاة، مساء الأربعاء.
“لا توجد حتى الآن خطة علمية قابلة للتطبيق لحل المخاطر الناجمة عن التحسين الذاتي المتكرر للذكاء الاصطناعي. يرجى البحث!” قال آنا وانغ، التي تعمل على سلامة الذكاء الاصطناعي العام ومواءمته في Anthropic.
قال جاكوب باتشوكي، كبير العلماء في OpenAI، يوم السبت، إن لديه “توقعًا قويًا” بأن سرعة التقدم في الذكاء الاصطناعي يمكن الحفاظ عليها في المستقبل. التحسين الذاتي العودي.
وقال في منشور على مدونة الشركة: “إذا استمر تطوير الذكاء الاصطناعي على طول مساره الحالي، فمن المرجح أن تمثل الأنظمة التي سنراها في السنوات القليلة المقبلة قفزات إضافية في القدرات بنفس الحجم أو أكبر، وأن تدفع تطورها بشكل متزايد”.
وأضاف باتشوكي “هذا وقت يتطلب الحذر الشديد”. “إنني أشعر بالقلق من أن لا أحد مستعد لعواقب الارتفاع السريع المستمر في الذكاء الآلي.”
بول كريستيانو، الذي كان يشغل سابقًا منصب رئيس قسم السلامة في مركز معايير الذكاء الاصطناعي والابتكار (CAISI) التابع لوزارة التجارة الأمريكية، قال قاده التطور الأخير لقدرات الذكاء الاصطناعي إلى “الاعتقاد بوجود خطر كبير من أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى فقدان السيطرة بشكل كارثي ولا رجعة فيه على المدى القريب جدًا”. أعلنت شركة OpenAI يوم الأربعاء أن كريستيانو سينضم إلى مجلس إدارة مؤسسة OpenAI.
تحذيرات سلامة الذكاء الاصطناعي تصل إلى واشنطن
تزايدت المخاوف بشأن قدرة نماذج الذكاء الاصطناعي في الأشهر الأخيرة. وكان الإعلان عن نموذج ميثوس الأنثروبيك، الذي وصفته بأنه يتمتع بقدرات سيبرانية متقدمة، في إبريل/نيسان سبباً في إثارة حالة من الذعر بين المؤسسات المالية على مستوى العالم.
وفي يوليو/تموز، قالت شركة OpenAI إن نماذجها كانت كذلك مسؤول عن السيبرانية حادثة وقعت على شركة أخرى، في حين كانت عارضات أزياء Anthropic’s Claude مسؤولة أيضًا عن ذلك حوادث الأمن السيبراني, بما في ذلك في حالة واحدة حيث ميثوس خلق هويات وهمية لخداع البشر.
ما يقرب من 1400 باحث في مجال الذكاء الاصطناعي، من شركات مثل OpenAI، وAnthropic، ميتا و جوجل ونشرت شركة ديب مايند رسالة مفتوحة في يوليو/تموز تحث فيها حكومة الولايات المتحدة على تطوير الأدوات اللازمة لدعم الجهود الرامية إلى “تسريع حدود تطوير الذكاء الاصطناعي الآلي بشكل متعمد”.
في حين أن رؤساء مختبرات الذكاء الاصطناعي أصبحوا علانية بشكل متزايد ودعا إلى المزيد من القواعد والمعايير حول تطوير النماذج، تعمل المنافسة الضخمة بين الشركات التي تعمل على تطوير التكنولوجيا على تحفيز التقدم السريع.
يتسابق كل من OpenAI وAnthropic نحو الإدراج العام. ومن المتوقع أن تبدأ شركة أنثروبيك تسويق طرحها العام الأولي في منتصف أكتوبر على أقرب تقدير، وتستكمل الإدراج قبل أيام من انتخابات التجديد النصفي الأمريكية في نوفمبر، بحسب رويترز. ذكرت يوم الجمعة، نقلاً عن أشخاص مطلعين على الأمر.
يبدو أن قيصر الذكاء الاصطناعي السابق للرئيس الأمريكي دونالد ترامب، ديفيد ساكس، يقترح وقف خطط Anthropic للاكتتاب العام. “بالتأكيد يجب إيقاف الاكتتاب العام الأولي لشركة Anthropic مؤقتًا حتى يتم التحقيق في ادعاءات هذا” المبلغ عن المخالفات “. قال في منشور على X. ورفض Anthropic التعليق على المنشور.
سعى أعضاء الكونجرس إلى تقديم مشاريع قوانين لمعالجة التقدم السريع في الذكاء الاصطناعي في الأشهر الأخيرة، على الرغم من عدم وجود إجماع واضح حول كيفية تنظيم التكنولوجيا. ويهدف أحدهما، والذي يسمى قانون FRONTIER، إلى إنشاء إطار لإدارة نشر نماذج الذكاء الاصطناعي المتقدمة. وهناك تشريع مقترح آخر، أطلق عليه اسم قانون حظر الذكاء الاصطناعي الفائق، والذي من شأنه أن يوقف مؤقتًا تطوير الذكاء الاصطناعي المتقدم حتى يتم وضع قواعد السلامة.
وكتب النائب لوري تراهان، ديمقراطي من ماساشوستس: “الباحثون في مجال السلامة يستقيلون، ونماذج الذكاء الاصطناعي القوية تخرج من مختبراتهم، والشركات تتسابق للأمام على أي حال”. مشاركة على X يوم الاربعاء. “لقد حان الوقت لكي يبتعد الكونجرس عن الهامش ويقوم بعمله.”
