قال باحث في مجال السلامة الإنسانية، يوم الثلاثاء، إن هناك احتمال بنسبة تزيد عن 10% أن يتمكن الذكاء الاصطناعي من “قتل جميع البشر”، وذلك بعد ساعات من إعلان موظف آخر أنه سيترك الشركة بسبب مخاوف من أن مختبرات الذكاء الاصطناعي “تقامر بحياتنا”.
وتسلط هذه التعليقات الضوء على المخاوف المتزايدة بين أولئك الذين يعملون في قلب تطوير الذكاء الاصطناعي من أن التكنولوجيا يمكن أن تخرج عن نطاق السيطرة وتشكل تهديدًا للبشرية، حتى مع استمرار Anthropic وOpenAI في جمع مبالغ كبيرة من المال والإنفاق. نحو القوائم العامة المتوقعة.
وقال جاكوب كوكسون، الباحث في شركة أنثروبيك، يوم الثلاثاء، إنه استقال من الشركة. وقال كوكسون إن لا Anthropic ولا OpenAI يتصرفان بمسؤولية.
وقال كوكسون في منشور على موقع “إنهم يتسابقون مباشرة نحو تطوير الذكاء الفائق ويقامرون بحياتنا”. X.
التحسين الذاتي هو فكرة أن أنظمة الذكاء الاصطناعي يمكنها تحسين نفسها دون تدخل بشري كبير. التحسين الذاتي العودي، كما يُطلق عليه غالبًا، ليس ممكنًا بعد، لكن مختبرات الذكاء الاصطناعي تعمل على تحقيق الهدف.
وقال كوكسون: “لا تقلل من شأن قوة هذه التكنولوجيا. ستصبح هذه الأنظمة قريبًا أنظمة خارقة يمكنها اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، والحصول على قوة وموارد حقيقية. لقد شهدنا جميعًا التقدم في كل من هذه المجالات، والتقدم لا يتباطأ”.
أندريه روداكوف | بلومبرج | صور جيتي
وأضاف أن “الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بشدة أنه يمكن أن يقتلنا جميعًا بحلول نهاية العقد”.
أثار هذا التعليق ردًا من إيفان هوبنجر، قائد علم المحاذاة في أنثروبيك، الذي قال إن بيان كوكسون لم يكن “صحيحًا” فحسب، بل أيضًا أن أنثروبيك ليس لديه خطة لهذا السيناريو.
وقال هوبنجر: “جاكوب على حق هنا، فنحن نعتقد حقًا أن الذكاء الاصطناعي يمكن أن يقتل جميع البشر! وأنا شخصيًا أعتقد أن النسبة تزيد عن 10% خلال العقد المقبل. وأعتقد أن الأنثروبيك تبذل قصارى جهدها، ولكن ليس لدينا حتى الآن خطة لحل مشكلة المواءمة بين الذكاء الفائق ولسنا نسير بشكل واضح على الطريق الصحيح لتحقيق ذلك”. X.
وأضاف هوبنجر في منشور آخر أن المخاطر الناجمة عن نماذج الذكاء الاصطناعي الحالية “منخفضة”.
وقال هوبنجر: “ما يقلقني هو الذكاء الفائق الناشئ عن التحسين الذاتي المتكرر، كما قلنا أنه يحدث بشكل أسرع مما كنا نعتقد”.
لم يكن Anthropic وOpenAI متاحين على الفور للتعليق عندما اتصلت بهم CNBC.
الذكاء الاصطناعي خارج نطاق السيطرة
وفي يونيو/حزيران، أشارت أنثروبيك إلى أن “التحسين الذاتي المتكرر الكامل قد يزيد أيضًا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي”.
“إذا كانت الأنظمة قادرة على بناء خلفائها بشكل كامل، فإن الطرق التي نؤمنها بها، ونراقبها، ونشكل سلوكها، تصبح أكثر أهمية بكثير” الأنثروبيك قال في مشاركة مدونة.
المخاوف بشأن خروج الذكاء الاصطناعي عن نطاق السيطرة ليست جديدة. تسلا و سبيس اكس المدير التنفيذي ايلون ماسك لقد حذر على مدى السنوات القليلة الماضية أن الذكاء الاصطناعي يمكن أن يشكل تهديدًا للبشرية. كبار الباحثين والأكاديميين كما دق ناقوس الخطر على الشركات التي تفقد السيطرة على أنظمة الذكاء الاصطناعي.
وقد تزايدت هذه المخاوف بعد أن أصبح نموذج OpenAI سيئًا في يوليو/تموز وجه معانقة منتهك، منصة رئيسية لمطوري المصادر المفتوحة.
واستشهد كوكسون بحادثة Hugging Face كمثال على “الطلقات التحذيرية” التي جعلت الاتفاقيات بين المختبرات الأمريكية أكثر قابلية للتطبيق، مما جعله أكثر تفاؤلاً بشأن إمكانية التنسيق. لكن كوكسون حذر من أن سباق الذكاء الاصطناعي العالمي سيكون أمرا لا مفر منه.
وقال كوكسون: “لا أشعر أننا نسير على الطريق الصحيح لمنع حدوث سباق عالمي، الأمر الذي قد يتطلب إجراءات مكلفة مثل فرض حظر مؤقت على تحسين قدرات النماذج”.
