نماذج الذكاء الاصطناعي “أقوى سلاح إلكتروني” تم إنشاؤه على الإطلاق: الرئيس التنفيذي لشركة Cohere
أصبحت نماذج الذكاء الاصطناعي “أقوى سلاح سيبراني” تم إنشاؤه على الإطلاق، مما دفع “حدود” الأمن السيبراني إلى آفاق جديدة، حسبما قال الرئيس التنفيذي لشركة كوهير للذكاء الاصطناعي في بودكاست “The Tech Download” على قناة CNBC.
يأتي تحذير إيدان جوميز وسط قلق متزايد بشأن قدرة نماذج الذكاء الاصطناعي على تحديد واستغلال الثغرات الأمنية، في أعقاب حادثة قامت فيها نماذج OpenAI تمكنت من الوصول إلى Hugging Face. أصبح الأمن السيبراني قضية مركزية في نقاش أوسع حول سلامة الذكاء الاصطناعي، حيث تظهر النماذج القوية بشكل متزايد قدرات أكثر استقلالية.
تم بيع الأسهم المرتبطة بالذكاء الاصطناعي يوم الاثنين بعد أن دعا قادة التكنولوجيا بقيادة الرئيس التنفيذي لشركة Anthropic داريو أمودي إلى تباطؤ وتيرة تطوير قدرات الذكاء الاصطناعي.
كان جوميز مؤلفًا مشاركًا للورقة البحثية المؤثرة لعام 2017 بعنوان “الانتباه هو كل ما تحتاجه”، والتي ساعدت في إرساء الأساس لنماذج الذكاء الاصطناعي الرائدة اليوم.
وقال جوميز في حلقة من برنامج “The Tech Download” نُشرت الأسبوع الماضي: “أعتقد أن هذه النماذج هي أقوى سلاح إلكتروني تم إنشاؤه على الإطلاق، ولم نشهده على الإطلاق. إنها مذهلة في العثور على نقاط الضعف واستغلالها على نطاق واسع”.
قال جوميز عن اختراق Hugging Face: “أعتقد أن الأمر كان صادمًا للغاية”.
إيدان جوميز، الرئيس التنفيذي لشركة Cohere Inc.، في قمة بلومبرج للتكنولوجيا في لندن، المملكة المتحدة، يوم الثلاثاء 21 أكتوبر 2025.
كريس راتكليف | بلومبرج | صور جيتي
في شهر يوليو، أعلنت شركة OpenAI عن مجموعة من نماذجها خرقت بشكل غير صحيح Hugging Face، هي شركة ذكاء اصطناعي تدير منصة مطور مفتوحة المصدر. تواصلت مجموعة من عملاء الذكاء الاصطناعي مع بعضهم البعض وهربوا من بيئة اختبار معزولة كان الوصول إلى الإنترنت فيها محدودًا للغاية. تمكن عملاء الذكاء الاصطناعي بعد ذلك من الوصول إلى شبكة الإنترنت المفتوحة والوصول إلى Hugging Face.
وقال جوميز إنه يجب استخدام النماذج بطريقة “دفاعية” للعثور على نقاط الضعف في الشركات وإصلاحها.
وقال جوميز: “أعتقد أن هذه ربما تكون أفضل طريقة للحفاظ على سلامتنا”. وأضاف: “يجب أن تكون هذه هي الأولوية القصوى الآن”.
وقال جوميز لشبكة CNBC إن الأمن السيبراني هو “حدود الحرب”، حيث تتطلع الدول إلى استغلال نقاط الضعف لشل البنية التحتية للمنافس. وأضاف أن “الحدود السيبرانية لا تزال تتوسع بشكل كبير”.
وقال جوميز: “بسبب هذه النماذج، توسعت بشكل أكبر مما كانت عليه في الماضي”، وربما “منذ بداية هذه التكنولوجيا”.
حوادث الذكاء الاصطناعي السيبرانية تغذي نقاشًا أوسع حول السلامة
في يوليو، قالت Anthropic إنها حددت ثلاث حوادث قام فيها نموذج بالوصول إلى الإنترنت من الداخل أو أثناء التفاعل مع بيئة التقييم. وقالت أنثروبيك في منشور على مدونة إن النماذج حصلت على وصول غير مصرح به إلى البنية التحتية للإنتاج لثلاث منظمات مختلفة.
وأضافت أنثروبيك أن الحوادث شملت ثلاثة نماذج مختلفة لكلود: Opus 4.7، وMythos 5، ونموذج اختبار بحثي داخلي. وقالت أنثروبيك الأسبوع الماضي إنها حددت حادثة رابعة.
ومما زاد من المخاوف التعليقات التي أدلى بها المسؤولون التنفيذيون في OpenAI وAnthropic الذين حذروا من المخاطر الوجودية من الذكاء الاصطناعي. إيفان هوبنجر، قائد المحاذاة في الأنثروبيك، قال إنه يعتقد أن هناك احتمالًا بنسبة تزيد عن 10% أن الذكاء الاصطناعي سوف “يقتل جميع البشر” خلال العقد المقبل. جاءت هذه التعليقات بعد أن قال الباحث الأنثروبولوجي جاكوب كوكسون مشاركة على X أنه استقال بسبب القلق من أن Anthropic و OpenAI “يقامرون بحياتنا”.
أجريت مقابلة CNBC مع جوميز قبل الإدلاء بالتعليقات من قبل Hubinger وCoxon. منذ أن جلست CNBC مع الرئيس التنفيذي لشركة Cohere، دعم الرؤساء في Anthropic وOpenAI وxAI الدعوات المطالبة بتباطؤ الذكاء الاصطناعي. تمت مناقشة المخاطر الوجودية من الذكاء الاصطناعي في دوائر بحثية لسنوات، لكن الاتفاق النادر بين بعض الشخصيات الرائدة في مجال الذكاء الاصطناعي دفع المناقشات إلى الاتجاه السائد.
نشر الرئيس التنفيذي لشركة Anthropic داريو أمودي مقالًا مقال يوم السبت في الذي قال أن مختبرات الذكاء الاصطناعي يجب أن “تبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي”.
كان أحد اهتمامات Amodei المركزية هو حادثة OpenAI-Hugging Face.
وقال أمودي: “من السهل تجاهل هذا الحادث لأنه لم يصب أحد بأذى وكانت الأضرار الاقتصادية ضئيلة، ولكن في رأيي، كان من الممكن أن يتسبب سرب يمتلك قدرات أكبر ولكن بمستوى مماثل من عدم الاصطفاف في أضرار كارثية”.
وأضاف أنه بالنظر إلى “المعدل المتسارع” لتطوير الذكاء الاصطناعي، فإن مثل هذا السرب يمكن أن يكون قادرا على “السيطرة على الإنترنت بالكامل” في غضون ستة إلى 12 شهرا، “مما قد يتسبب في أضرار بمئات المليارات من الدولارات”.
وتشمل مقترحات أمودي تقييم النماذج من طرف ثالث، والتنسيق بين شركات الذكاء الاصطناعي، والتنسيق بين الدول ذات الحكومات الديمقراطية.
سام التمان، الرئيس التنفيذي لشركة OpenAI يوم السبت قال إنه يتفق مع أمودي أن شركات الذكاء الاصطناعي تحتاج إلى “تسريع الحدود”.
“إن الالتزام بوجود مقيمين مستقلين يتمتعون بإمكانية الوصول إلى الموظفين يعد فكرة رائعة، وسنفعل الشيء نفسه.” كتب ألتمان على X.
سبيس إكس وتيسلا ايلون ماسك، الذي ظل يدق ناقوس الخطر بشأن المخاطر التي يشكلها الذكاء الاصطناعي لعدة سنوات، تم نشره على X: “داريو على حق.”
يوم الاثنين، جورج كورتز، الرئيس التنفيذي لشركة الأمن السيبراني كراود سترايك رد على مقال أمودي.
وقال: “سوف تتحرك الحدود بأي سرعة تتحرك. وبقية العالم لن يتباطأ. ومهمتنا في مجتمع الأمن السيبراني هي التأكد من أنها تتحرك بشكل آمن ومأمون”، موضحًا الطرق المختلفة التي يؤثر بها الذكاء الاصطناعي على صناعة الأمن السيبراني.
وقال كورتز: “لم تعد وحدة التهديد هي المتسللين. إنها حملة مستقلة. أسميها الدولة العميلة. نرى عملاء الذكاء الاصطناعي المنسقين ينفذون حملات هجومية بسرعة الآلة”. X.
وقال الرئيس التنفيذي لشركة CrowdStrike أيضًا إن عملاء الذكاء الاصطناعي العاملين في المؤسسات يجب أن يكون لديهم “مفتاح إيقاف” وقال إن الدفاع يجب أن يكون “مستقلًا” مع “امتلاك البشر للمكالمات عالية التأثير”.
الحديث التنظيمي يكتسب قوة
المشرعون الأمريكيون وتصاعدت الدعوات لمزيد من التنظيم لتطوير الذكاء الاصطناعي بعد تعليقات كوكسون وهوبينجر.
وقالت النائبة لوري تراهان، من الحزب الديمقراطي، لبرنامج “Squawk Box” على قناة CNBC يوم الجمعة، إن دعم الحزبين وصل إلى “نقطة تحول”.
على مدى الأسابيع القليلة الماضية، قدم المشرعون مشاريع قوانين مختلفة تهدف إلى تنظيم الذكاء الاصطناعي، بما في ذلك قانون AI Kill Switch، الأمر الذي يتطلب من مطوري بعض أنظمة الذكاء الاصطناعي القوية القيام بذلك الحفاظ على القدرة على إيقاف تشغيل نماذجهم أو خنقها أو تعليقها.
وقال أمودي في مقالته إن التنظيم هو “الطريقة الأكثر فعالية لتسريع” تطور الذكاء الاصطناعي.
وقال أمودي: “لقد دعمت منظمة أنثروبيك منذ فترة طويلة تنظيم الذكاء الاصطناعي بشكل معقول وموجه، وخاصة مشاريع القوانين التي تركز على الشفافية وعلى تدقيق الطرف الثالث”، لكنه أقر بأن “تمرير القوانين يمكن أن يستغرق وقتا”.
علق جوميز من Cohere على الجدل الدائر حول التنظيم وتباطؤ تطوير الذكاء الاصطناعي في The Tech Download، ردًا على حادثة OpenAI-Hugging Face على وجه التحديد.
وقال جوميز إنه “غير متأكد مما كانت ستفعله هيئة الرقابة الحكومية لمنع” اختراق Hugging Face.
وقال جوميز: “أعتقد أن هذا قليل من التمني، أن هناك أي شيء كان من الممكن أن تساهم به وكالة حكومية. لكنني بالتأكيد… أتفهم الدعوات لإبطاء التنمية. وفي الوقت نفسه، هناك هذا السباق مع الصين، ولذا أعتقد أننا كنا في موقف صعب”.
