أدلى سام ألتمان، رئيس OpenAI، بتعليقاته الأكثر تفصيلاً حتى الآن حول كيفية عمل أطر سلامة الذكاء الاصطناعي، بعد أن انضم إلى داريو أمودي وإيلون ماسك من Anthropic في التحذير من أن الصناعة بحاجة إلى التباطؤ.
وقال ألتمان في منشور على موقع X بعد منتصف ليل الاثنين مباشرة: “إننا نرحب بإطار عمل فيدرالي يحدد متطلبات السلامة المتسقة للذكاء الاصطناعي الحدودي”، مضيفًا أنه “لا ينبغي لأي قدر من الضغوط التنافسية الأمريكية أن يبرر التهور”.
وحذر ألتمان من طريقتين يمكن أن يسير بها تقدم الذكاء الاصطناعي “بشكل سيء للغاية”، بما في ذلك فقدان “السيطرة على المستقبل لصالح الذكاء الاصطناعي” وتركيز الكثير من القوة حول شخص واحد أو شركة واحدة.
منشوره X يتبع Amodei’s مقال يوم السبت الذي حث شركات الذكاء الاصطناعي على إبطاء سرعة تحسين نماذجها الأكثر تقدمًا.
انخفضت أسهم الذكاء الاصطناعي يوم الاثنين حيث استوعب المستثمرون التعليقات. قال الرئيس الأمريكي دونالد ترامب يوم الأحد إن التباطؤ ليس ضروريا وسيعرض تقدم أمريكا في مجال الذكاء الاصطناعي على الصين للخطر.
تزايدت المخاوف المتعلقة بالسلامة منذ ذلك الحين استقال الباحث الأنثروبي في الأسبوع الماضي، تم التحذير من أن الصناعة لم تأخذ الأمر على محمل الجد بما فيه الكفاية، مما دفع الموظفين الآخرين في المختبر ومنافس OpenAI إلى القيام بذلك التحذير علانية من المخاطر الكارثية.
وفي الوقت نفسه، المشرعون في واشنطن الهرولة إلى العنوان يدعو إلى ضمانات.
يأتي كل هذا في الوقت الذي تستعد فيه Anthropic وOpenAI لما يُتوقع أن يكون طرحًا عامًا أوليًا تاريخيًا. استبعد ألتمان طرح أسهمه للاكتتاب العام في عام 2026 في قرار مقابلة مع مجلة فورتشن نشرت يوم السبت.
اقتراح أمودي المكون من ثلاث خطوات
تدور العديد من المخاوف المتعلقة بسلامة الذكاء الاصطناعي حول النماذج التي تعمل على تطوير القدرة على تحسين أدائها، وهي تقنية تُعرف باسم التحسين الذاتي العودي، أو RSI.
وقال أمودي في مقالته: “منذ هذا الصيف تقريبًا، كان الذكاء الاصطناعي يتقدم بشكل أسرع بشكل كبير، مدفوعًا في المقام الأول بقدرة الذكاء الاصطناعي المتزايدة على بناء الجيل القادم من الذكاء الاصطناعي”. “إذا تركت دون رادع، فإنها يمكن أن تتجاوز قدرتنا على فهم هذه الأنظمة والسيطرة عليها، ولذلك يجب متابعتها بعناية شديدة، إذا حدث ذلك على الإطلاق.”
واقترح أمودي خطة من ثلاث خطوات تهدف إلى تخفيف وتيرة التنمية دون “التضحية بالميزة التجارية أو تقدم الولايات المتحدة في مجال الذكاء الاصطناعي”.
تتضمن الخطة أن تمنح كل شركة ذكاء اصطناعي حدودية “وصولاً مثل الموظف” إلى المقيمين الخارجيين – وهو ما قال إن شركة Anthropic ملتزمة به الآن. ودعا أمودي أيضًا مختبرات الذكاء الاصطناعي الحدودية إلى وضع معايير سلامة مشتركة، والحد من معدل التقدم غير الخاضع للرقابة في الذكاء الاصطناعي ومحاولة تنسيق الجهود على مستوى العالم.
وقال ألتمان يوم السبت في منشور مقتضب على موقع X إنه اتفق مع أمودي على أن شركات الذكاء الاصطناعي يجب أن “تسرع الحدود”. وأضاف أن “الالتزام بوجود مقيمين مستقلين يتمتعون بإمكانية الوصول إلى الموظفين يعد فكرة رائعة، وسنفعل الشيء نفسه.
وقال ألتمان في منشوره يوم الاثنين: “إن القواعد المتسقة لإدارة المخاطر الحدودية حتى نتمكن من تعظيم الفوائد هي فكرة جيدة (ونحن متحمسون لأفكار مثل المدققين المستقلين)”. لكنه أضاف: “عندما نتحدث عن “الوتيرة”، فإننا لا نعني “التوقف”. لقد كان التقدم سريعا وسيظل كذلك”.
وخلص إلى القول: “إن ضبط وتيرة العمل سيكون يستحق هذه التكلفة؛ ولا ينبغي لأي قدر من الضغوط التنافسية الأمريكية أن يبرر التهور، أو السماح للقدرات بالتقدم على المواءمة والمراقبة”.
“الأمر الذي سنحتاج فيه إلى مساعدة حكومتنا هو التنسيق الدولي. لكن علينا أولاً أن نفعل ما في وسعنا بأنفسنا”.
