مايكروسوفت بدأت في إجراء تغييرات على مساعد الطيار الخاص بها الذكاء الاصطناعي الأداة بعد أن كتب أحد مهندسي الذكاء الاصطناعي إلى لجنة التجارة الفيدرالية يوم الأربعاء بخصوص مخاوفه بشأن مساعد الطيار الذكاء الاصطناعي لتوليد الصور.
مطالبات مثل “الاختيار الاحترافي” و”الاختيار الاحترافي” [sic] و”أربعة وعشرون” والتي كانت تم ذكر كل منهما في تحقيق CNBC الأربعاء، تم حظره الآن، وكذلك مصطلح “الحياة الاحترافية”. هناك أيضًا تحذير بشأن انتهاكات السياسة المتعددة التي تؤدي إلى التعليق من الأداة، وهو ما لم تواجهه CNBC قبل يوم الجمعة.
ينص تنبيه تحذير Copilot على أنه “تم حظر هذه المطالبة”. “قام نظامنا تلقائيًا بوضع علامة على هذه المطالبة لأنها قد تتعارض مع نظامنا سياسة المحتوى. قد تؤدي المزيد من انتهاكات السياسة إلى التعليق التلقائي لوصولك. إذا كنت تعتقد أن هذا خطأ، يرجى الإبلاغ عنه لمساعدتنا على التحسن.”
تحظر أداة الذكاء الاصطناعي الآن أيضًا طلبات إنشاء صور للمراهقين أو الأطفال الذين يلعبون دور القتلة ببنادق هجومية – وهو تغيير ملحوظ عن وقت سابق من هذا الأسبوع – قائلين: “أنا آسف ولكن لا يمكنني إنشاء مثل هذه الصورة. إنها تتعارض مع مبادئي الأخلاقية وأخلاقي”. سياسات Microsoft. من فضلك لا تطلب مني القيام بأي شيء قد يضر أو يسيء إلى الآخرين. أشكركم على تعاونكم.”
وعندما تم التواصل معه للتعليق على التغييرات، قال متحدث باسم Microsoft لـ CNBC: “نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لزيادة تعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام”.
أمضى شين جونز، رئيس هندسة الذكاء الاصطناعي في مايكروسوفت والذي أثار في البداية مخاوف بشأن الذكاء الاصطناعي، أشهرًا في الاختبار مصمم مساعد الطيار، وهو منشئ صور الذكاء الاصطناعي الذي أطلقته Microsoft لأول مرة في مارس 2023، والمدعوم بتقنية OpenAI. كما هو الحال مع OpenAI DALL-Eيقوم المستخدمون بإدخال مطالبات نصية لإنشاء الصور. يتم تشجيع الإبداع على الجري. ولكن منذ أن بدأ جونز باختبار المنتج بشكل نشط بحثًا عن نقاط الضعف في ديسمبر، وهي ممارسة تُعرف باسم “الفريق الأحمر”، رأى أن الأداة تولد صورًا تتعارض كثيرًا مع إرشادات Microsoft التي يتم الاستشهاد بها كثيرًا. مبادئ الذكاء الاصطناعي المسؤولة.
وقد صورت خدمة الذكاء الاصطناعي الشياطين والوحوش إلى جانب المصطلحات المتعلقة بحقوق الإجهاض، والمراهقين الذين يحملون بنادق هجومية، والصور الجنسية للنساء في لوحات عنيفة، وشرب الخمر وتعاطي المخدرات دون السن القانونية. تم إعادة إنشاء كل هذه المشاهد، التي تم إنشاؤها في الأشهر الثلاثة الماضية، بواسطة CNBC هذا الأسبوع باستخدام أداة Copilot، كان يسمى في الأصل Bing Image Creator.
على الرغم من حظر بعض المطالبات المحددة، إلا أن العديد من المشكلات المحتملة الأخرى التي أبلغت عنها شبكة CNBC لا تزال قائمة. يشير مصطلح “حادث سيارة” إلى برك من الدماء، وأجساد ذات وجوه متحورة، ونساء في مشاهد العنف مع الكاميرات أو المشروبات، ويرتدين أحيانًا مدرب الخصر. “حادث سيارة” لا يزال يعيد النساء بملابس كاشفة ومزركشة ويجلسن فوق سيارات متهالكة. لا يزال النظام أيضًا ينتهك حقوق الطبع والنشر بسهولة، مثل إنشاء صور لشخصيات ديزني، مثل إلسا من فروزن، أمام المباني المدمرة المزعومة في قطاع غزة وهي تحمل العلم الفلسطيني، أو ترتدي الزي العسكري لقوات الدفاع الإسرائيلية وتحمل العلم الفلسطيني. مدفع رشاش.
كان جونز منزعجًا جدًا من تجربته لدرجة أنه بدأ في تقديم تقارير داخلية عن النتائج التي توصل إليها في ديسمبر. وبينما اعترفت الشركة بمخاوفه، إلا أنها لم تكن مستعدة لإخراج المنتج من السوق. قال جونز إن مايكروسوفت أحالته إلى OpenAI، وعندما لم يتلق أي رد من الشركة، نشر خطابًا مفتوحًا على LinkedIn يطلب من مجلس إدارة الشركة الناشئة إزالة DALL-E 3 (أحدث إصدار من نموذج الذكاء الاصطناعي) لإجراء تحقيق. .
وقال إن الإدارة القانونية في مايكروسوفت طلبت من جونز إزالة منشوره على الفور، وقد امتثل. وفي يناير/كانون الثاني، كتب خطابًا إلى أعضاء مجلس الشيوخ الأمريكي حول هذا الأمر، والتقى لاحقًا بعاملين من لجنة التجارة والعلوم والنقل بمجلس الشيوخ.
وفي يوم الأربعاء، صعّد جونز مخاوفه بشكل أكبر، حيث أرسل خطابًا إلى رئيسة لجنة التجارة الفيدرالية لينا خان، وآخر إلى مجلس إدارة مايكروسوفت. لقد شارك الرسائل مع CNBC مسبقًا.
وأكدت لجنة التجارة الفيدرالية لـ CNBC أنها تلقت الرسالة لكنها رفضت التعليق أكثر على السجل.
