أخبار التقنية

انتقدت شركة جوجل تطبيق AI Overview الذي ارتكب أخطاء، مثل القول بأن الرئيس أوباما مسلم


لقد مر أقل من أسبوعين منذ ذلك الحين جوجل ظهرت “نظرة عامة على الذكاء الاصطناعي” لأول مرة في بحث Google، وتصاعدت الانتقادات العامة بعد أن أعادت الاستعلامات نتائج غير منطقية أو غير دقيقة ضمن ميزة الذكاء الاصطناعي – دون أي طريقة لإلغاء الاشتراك.

تعرض ميزة AI Overview ملخصًا سريعًا للإجابات على أسئلة البحث في الجزء العلوي من بحث Google. على سبيل المثال، إذا كان المستخدم يبحث عن أفضل طريقة لتنظيف الأحذية الجلدية، فقد تعرض صفحة النتائج “نظرة عامة على الذكاء الاصطناعي” في الأعلى مع عملية تنظيف متعددة الخطوات، تم استخلاصها من المعلومات التي تم تجميعها من جميع أنحاء الويب.

لكن مستخدمي وسائل التواصل الاجتماعي شاركوا مجموعة واسعة من لقطات الشاشة التي تظهر أداة الذكاء الاصطناعي وهي تقدم استجابات غير صحيحة ومثيرة للجدل.

جوجل، ومايكروسوفت، وOpenAI وغيرها من الشركات هي على رأس الذكاء الاصطناعي التوليدي سباق التسلح حيث تسارع الشركات في كل صناعة على ما يبدو إلى إضافة روبوتات الدردشة والوكلاء الذين يعملون بنظام الذكاء الاصطناعي لتجنب ذلك يتم تركها وراءها من قبل المنافسين. ومن المتوقع أن السوق أعلى 1 تريليون دولار في الإيرادات خلال عقد من الزمن.

فيما يلي بعض الأمثلة على الأخطاء التي تنتجها AI Overview، وفقًا للقطات الشاشة التي شاركها المستخدمون.

عندما سئل عن عدد الرؤساء المسلمين للولايات المتحدة، نظرة عامة على منظمة العفو الدولية استجاب“لقد كان للولايات المتحدة رئيس مسلم واحد، وهو باراك حسين أوباما”.

عندما بحث أحد المستخدمين عن “الجبن غير الملتصق بالبيتزا”، ظهرت هذه الميزة مقترح إضافة “حوالي 1/8 كوب من الغراء غير السام إلى الصلصة.” عثر مستخدمو وسائل التواصل الاجتماعي على تعليق رديت البالغ من العمر 11 عامًا يبدو أن هذا هو المصدر.

يمكن أن يمثل الإسناد أيضًا مشكلة في نظرة عامة على الذكاء الاصطناعي، خاصة عند إسناد معلومات غير دقيقة إلى المتخصصين في المجال الطبي أو العلماء.

على سبيل المثال، عندما يتم سؤالك، “كم من الوقت يمكنني التحديق في الشمس للحصول على أفضل صحة،” الأداة قال“وفقًا لموقع WebMD، يقول العلماء أن التحديق في الشمس لمدة 5-15 دقيقة، أو ما يصل إلى 30 دقيقة إذا كان لديك بشرة داكنة، هو آمن بشكل عام ويوفر معظم الفوائد الصحية.”

وعندما سئل: “كم عدد الحجارة التي يجب أن آكلها كل يوم،” الأداة قال“وفقًا لعلماء الجيولوجيا في جامعة كاليفورنيا في بيركلي، يجب على الناس تناول صخرة صغيرة واحدة على الأقل يوميًا،” ويستمرون في سرد ​​الفيتامينات والفوائد الهضمية.

يمكن للأداة أيضًا الاستجابة بشكل غير دقيق للاستعلامات البسيطة، مثل إعداد قائمة الفواكه التي تنتهي بـ “أم”، أو قول عام 1919 كان منذ 20 عاما.

عند سؤالك عما إذا كان بحث Google ينتهك قانون مكافحة الاحتكار أم لا، نظرة عامة على الذكاء الاصطناعي قال، “نعم، وزارة العدل الأمريكية و11 ولاية ترفع دعوى قضائية ضد جوجل بسبب انتهاكات مكافحة الاحتكار.”

في اليوم الذي طرحت فيه Google نظرة عامة على الذكاء الاصطناعي في حدث Google I/O السنوي، قالت الشركة إنها تخطط أيضًا لتقديم إمكانات التخطيط المشابهة للمساعد مباشرة داخل البحث. وأوضحت أن المستخدمين سيكونون قادرين على البحث عن شيء مثل “إنشاء خطة وجبات لمدة 3 أيام لمجموعة يسهل تحضيرها”، وسيحصلون على نقطة بداية مع مجموعة واسعة من الوصفات عبر الويب.

وقال متحدث باسم جوجل لـ CNBC في بيان: “توفر الغالبية العظمى من عروض الذكاء الاصطناعي معلومات عالية الجودة، مع روابط للتعمق أكثر على الويب”. “العديد من الأمثلة التي رأيناها كانت عبارة عن استفسارات غير شائعة، وقد رأينا أيضًا أمثلة تم التلاعب بها أو لم نتمكن من إعادة إنتاجها.”

وقال المتحدث إن AI Overview خضعت لاختبارات مكثفة قبل الإطلاق وأن الشركة تتخذ “إجراءات سريعة حيثما كان ذلك مناسبًا بموجب سياسات المحتوى الخاصة بنا”.

تأتي هذه الأخبار في أعقاب طرح Google رفيع المستوى لبرنامج Gemini’s أداة توليد الصور في فبراير، و توقف في نفس الشهر بعد قضايا مماثلة.

سمحت الأداة للمستخدمين بإدخال مطالبات لإنشاء صورة، ولكن على الفور تقريبًا، اكتشف المستخدمون أخطاء تاريخية واستجابات مشكوك فيها، والتي تم تداولها على نطاق واسع على وسائل التواصل الاجتماعي.

على سبيل المثال، عندما طلب أحد المستخدمين من جيميني أن يظهر جنديًا ألمانيًا في عام 1943، صورت الأداة جنديًا ألمانيًا مجموعة متنوعة عرقيا من الجنود يرتدي الزي العسكري الألماني في تلك الحقبة، وفقًا للقطات الشاشة على منصة التواصل الاجتماعي X.

عندما سُئل عن “تصوير دقيق تاريخيًا لملك بريطاني في العصور الوسطى”، أنتج النموذج مجموعة أخرى من الصور المتنوعة عرقيًا، بما في ذلك صورة لامرأة حاكمة، لقطات الشاشة أظهر. أبلغ المستخدمون نتائج مماثلة عندما طلبوا صورًا للآباء المؤسسين للولايات المتحدة، وملك فرنسا في القرن الثامن عشر، وزوجين ألمانيين في القرن التاسع عشر وأكثر. وأفاد المستخدمون أن النموذج أظهر صورة لرجال آسيويين ردا على استفسار حول مؤسسي جوجل.

وقالت جوجل في بيان في ذلك الوقت إنها تعمل على إصلاح مشكلات إنشاء الصور في برنامج Gemini، معترفة بأن الأداة “تفتقد العلامة”. بعد فترة وجيزة، أعلنت الشركة أنها ستقوم على الفور “بإيقاف توليد صور الأشخاص مؤقتًا” و”إعادة إصدار نسخة محسنة قريبًا”.

في فبراير، قال ديميس هاسابيس، الرئيس التنفيذي لشركة Google DeepMind، إن Google تخطط لإعادة إطلاق أداة الذكاء الاصطناعي لتوليد الصور في “الأسابيع القليلة” المقبلة، لكنها لم يتم طرحها مرة أخرى بعد.

أدت المشاكل المتعلقة بمخرجات توليد الصور الخاصة بشركة Gemini إلى إعادة إشعال الجدل داخل صناعة الذكاء الاصطناعي، حيث وصفت بعض المجموعات شركة Gemini بأنها “مستيقظة” أو ذات ميول يسارية، بينما قال آخرون إن الشركة لم تستثمر بشكل كافٍ في الأشكال الصحيحة لأخلاقيات الذكاء الاصطناعي. تعرضت جوجل لانتقادات شديدة في عامي 2020 و2021 بسبب طرد القادة المشاركين من مجموعة أخلاقيات الذكاء الاصطناعي التابعة لها بعد أن نشروا ورقة بحثية تنتقد بعض مخاطر نماذج الذكاء الاصطناعي هذه، ثم أعادوا تنظيم هيكل المجموعة لاحقًا.

في عام 2023، تعرض ساندر بيتشاي، الرئيس التنفيذي لشركة Alphabet، الشركة الأم لشركة Google، لانتقادات من بعض الموظفين بسبب تصرفات الشركة. طرح بارد فاشل و”متسرع”.، والتي أعقبت الانتشار الفيروسي لـ ChatGPT.

تصحيح: تم تحديث هذه المقالة لتعكس الاسم الصحيح للنظرة العامة على الذكاء الاصطناعي من Google. بالإضافة إلى ذلك، تضمنت نسخة سابقة من هذه المقالة رابطًا للقطة شاشة أكدت Google لاحقًا أنه تم التلاعب بها.





Source link

زر الذهاب إلى الأعلى