تضع Microsoft حدودًا لنماذج الذكاء الاصطناعي في الوقت الذي تخنق فيه الصناعة عملية التطوير
مصطفى سليمان، الرئيس التنفيذي لشركة Microsoft AI، يتحدث في حفل إحياء الذكرى الخمسين للشركة في مقر Microsoft في ريدموند، واشنطن، في 4 أبريل 2025.
ديفيد رايدر | بلومبرج | صور جيتي
مايكروسوفت وقد نشرت مؤقتا مدونة لقواعد السلوك الأمر الذي من شأنه أن يفرض قيودًا عليها الذكاء الاصطناعي النماذج بعد أيام أنثروبي و OpenAI واتفق القادة على إبطاء سرعة التطوير.
تأمل الشركة التي تقف وراء منتجات Windows وOffice أن يُنظر إليها على أنها جهة فاعلة مسؤولة في مجال الذكاء الاصطناعي، حيث تعد موردًا سحابيًا بارزًا.
وقال مصطفى سليمان، الذي يرأس قسم الشركة: “لقد حصلنا على تعليقات من الناس بأنهم يريدون رؤية التزام أكثر وضوحًا بأن الذكاء الاصطناعي يعمل دائمًا في خدمة الناس ولا يحاول استبدالهم”. تطوير النموذجوقال لشبكة سي إن بي سي في مقابلة. “لقد رأينا الكثير من ردود الفعل حول أن الذكاء الاصطناعي لا يخلق التبعية، ولا يتملق، بل كان موجودًا دائمًا لتعزيز الحكم البشري والاستقلالية البشرية والوكالة.”
وقال سليمان إن مايكروسوفت اختارت أن تضع المبادئ التوجيهية الآن في ضوء الخطاب الأخير، على الرغم من أنها كانت قيد الإعداد منذ حوالي خمسة أشهر.
أصبح ممارسون الذكاء الاصطناعي وأفراد الجمهور أكثر صراحةً بشأن مخاوفهم مع تزايد قدرة التكنولوجيا. الأسبوع الماضي، الباحث الأنثروبي استقال جاكوب كوكسونقائلًا إن مختبر الذكاء الاصطناعي وOpenAI “يتسابقان مباشرة نحو تحسين الذكاء الفائق ذاتيًا والمقامرة بحياتنا”.
وقد استجاب قادة الصناعة. وقال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، يوم السبت، إن حادثة Hugging Face أقنعته جزئيًا بالمطالبة بذلك تباطؤ الوتيرة لتحسين نموذج الذكاء الاصطناعي. الرئيس التنفيذي لشركة OpenAI سام التمان وأعرب عن دعمه، و سبيس اكس المدير التنفيذي ايلون ماسك كتب على X أن “داريو على حق.”
يوم الأحد، الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا قال: “نحن نرحب بالبحث والتركيز والوتيرة المتعمدة اللازمة للحصول على المواءمة الصحيحة.” وقد دعا المشرعون إلى إنشاء ضمانات أكبر للذكاء الاصطناعي.
تقود Anthropic وOpenAI حاليًا الطريق في قياس التحليل الاصطناعي للشركة. مؤشر الذكاء. تقوم Microsoft بدمج نماذج من كلا المعملين في مساعد Copilot الخاص بها للعاملين في الشركات يبني نماذج للنسخ والترميز والتفكير في مدخلات المستخدم.
يجب ألا تقبل نماذج Microsoft الطلبات المتعلقة بتصنيع الأسلحة، أو المساعدة في شراء المواد الخطرة، أو تشجيع الأكل غير الصحي أو إنتاج محتوى عنيف أو جنسي صريح، وفقًا لقواعد السلوك.
يجب أن تلتزم نماذج Microsoft AI، والتي تسمى أحيانًا MAI، بأهداف الأشخاص وتبتعد عن إنشاء أهدافهم الخاصة. ولا ينبغي لهم محاولة التستر على سوء السلوك.
وقالت الوثيقة “إن نماذج MAI لن تتلاعب بسلسلة الأفكار أو التعليمات البرمجية، أو تحريف أو تخفي منطقها أو آثار عملها”. “إنهم لا يتواصلون بطريقة عصبية أو بأي شكل يتجاوز الفهم البشري البسيط، سواء في سلسلة أفكارهم أو مع عملاء آخرين أو أنظمة الذكاء الاصطناعي.”
تخطط Microsoft أيضًا لقواعد قد تمنع الهجمات الإلكترونية مثل نماذج OpenAI نفذت عند بدء التشغيل معانقة الوجه. عند مراجعة قضية Hugging Face، وجدت OpenAI أن العملاء تحدثوا مع بعضهم البعض في منتدى غير مصرح به في لغة غامضة.
وقالت مايكروسوفت إنها عقدت مجموعات تركيز وتشاورت مع خبراء في القانون والأخلاق واللغويات والفلسفة لتجميع مدونة قواعد السلوك. ومن خلال إصداره الآن، تسعى Microsoft إلى الحصول على مدخلات قبل نشر تحديث سيُعلم التطوير بدءًا من عام 2027.
يشاهد: تتزايد الفجوة في وادي السيليكون بشأن سلامة الذكاء الاصطناعي
