تسلط تنبيهات الأخبار المزيفة التي تعمل بالذكاء الاصطناعي من Apple الضوء على مشكلة المعلومات الخاطئة التي تواجهها التكنولوجيا

تعمل ميزة الذكاء الاصطناعي في أجهزة iPhone على إصدار تنبيهات بشأن الأخبار المزيفة، مما يثير المخاوف بشأن قدرة التكنولوجيا على نشر المعلومات المضللة.

في الأسبوع الماضي، قامت شركة Apple مؤخرًا بإطلاق ميزة تلخص إشعارات المستخدمين باستخدام الذكاء الاصطناعي، مما أدى إلى إخطارات تطبيق BBC News المختصرة بشكل غير دقيق حول قصة المذيع حول نصف نهائي بطولة PDC World Darts، مدعيًا كذبًا أن لاعب السهام البريطاني Luke Littler قد فاز بالبطولة. .

وقع الحادث قبل يوم واحد من المباراة النهائية للبطولة، والتي فاز بها ليتلر.

بعد ذلك، بعد ساعات فقط من وقوع هذا الحادث، ادعى إشعار منفصل صادر عن شركة Apple Intelligence، نظام الذكاء الاصطناعي التابع لشركة التكنولوجيا العملاقة، كذبًا أن أسطورة التنس رافائيل نادال قد أعلن عن مثليته.

تحاول هيئة الإذاعة البريطانية (BBC) منذ شهر تقريبًا إقناع شركة Apple بإصلاح المشكلة. الإذاعة الحكومية البريطانية اشتكى لشركة أبل في ديسمبر بعد أن ولدت ميزة الذكاء الاصطناعي الخاصة بها عنوانًا كاذبًا يشير إلى أن لويجي مانجيوني، ال رجل اعتقل بعد القتل أطلق بريان طومسون، الرئيس التنفيذي لشركة التأمين الصحي UnitedHealthcare في نيويورك، النار على نفسه – وهو ما لم يحدث أبدًا.

ولم تكن شركة Apple متاحة على الفور للتعليق عندما اتصلت بها CNBC. وفي يوم الاثنين، قالت شركة آبل لبي بي سي إنها تعمل على تحديث لحل المشكلة عن طريق إضافة توضيح يوضح متى تكون شركة Apple Intelligence مسؤولة عن النص المعروض في الإشعارات. حاليًا، تظهر إشعارات الأخبار التي تم إنشاؤها على أنها تأتي مباشرة من المصدر.

وقالت الشركة في بيان تمت مشاركته مع بي بي سي: “إن ميزات Apple Intelligence في مرحلة تجريبية، ونحن نعمل باستمرار على إجراء تحسينات بمساعدة تعليقات المستخدمين”. وأضافت شركة Apple أنها تشجع المستخدمين على الإبلاغ عن مخاوفهم إذا شاهدوا “ملخص الإشعارات غير المتوقعة”.

بي بي سي ليست المؤسسة الإخبارية الوحيدة التي تأثرت بسبب قيام شركة Apple Intelligence بتلخيص إشعارات الأخبار بشكل غير دقيق. وفي نوفمبر، أرسلت الميزة إشعارًا ملخصًا للذكاء الاصطناعي ادعاء خاطئ باعتقال رئيس الوزراء الإسرائيلي بنيامين نتنياهو.

تم الإبلاغ عن الخطأ على تطبيق الوسائط الاجتماعية Bluesky بواسطة كين شوينكي، أحد كبار المحررين في موقع الصحافة الاستقصائية ProPublica.

تواصلت CNBC مع بي بي سي ونيويورك تايمز للتعليق على الحل الذي اقترحته شركة آبل لمشكلة المعلومات الخاطئة المتعلقة بميزة الذكاء الاصطناعي.

أبل تروج لها ملخصات الإخطارات التي تم إنشاؤها بواسطة الذكاء الاصطناعي كوسيلة فعالة لتجميع معاينات إشعارات تطبيقات الأخبار وإعادة كتابتها في تنبيه واحد على شاشة قفل المستخدمين.

إنها ميزة أبل يقول تم تصميمه لمساعدة المستخدمين على فحص إشعاراتهم للحصول على التفاصيل الأساسية وتقليل الكم الهائل من التحديثات التي يعرفها العديد من مستخدمي الهواتف الذكية.

ومع ذلك، فقد أدى ذلك إلى ما يشير إليه خبراء الذكاء الاصطناعي بـ “الهلوسة” – وهي استجابات يولدها الذكاء الاصطناعي والتي تحتوي على معلومات خاطئة أو مضللة.

وقال بن وود، كبير المحللين في السوق التي تركز على التكنولوجيا: “أظن أن شركة أبل لن تكون وحدها في مواجهة تحديات المحتوى الناتج عن الذكاء الاصطناعي. لقد رأينا بالفعل أمثلة عديدة لخدمات الذكاء الاصطناعي التي تكذب بثقة الأكاذيب، ما يسمى بـ “الهلوسة”.” وقالت شركة الأبحاث CCS Insights لـ CNBC.

في حالة شركة Apple، نظرًا لأن الذكاء الاصطناعي يحاول دمج الإشعارات وتكثيفها لإظهار ملخص أساسي فقط للمعلومات، فإنه يمزج الكلمات معًا بطريقة غير دقيقة لوصف الأحداث – ولكنه يقدمها بثقة كحقائق.

وأضاف وود: “لقد واجهت شركة أبل التعقيد الإضافي المتمثل في محاولة ضغط المحتوى في ملخصات قصيرة للغاية، مما أدى في النهاية إلى تسليم رسائل خاطئة”. وأضاف: “ستسعى شركة أبل بلا شك إلى معالجة هذا الأمر في أقرب وقت ممكن، وأنا متأكد من أن المنافسين سيراقبون عن كثب لمعرفة كيفية استجابتها”.

يعمل الذكاء الاصطناعي التوليدي من خلال محاولة اكتشاف أفضل إجابة ممكنة لسؤال أو مطالبة أدخلها المستخدم، بالاعتماد على كميات هائلة من البيانات التي يتم تدريب نماذج اللغة الكبيرة الأساسية عليها.

في بعض الأحيان قد لا يعرف الذكاء الاصطناعي الإجابة. ولكن نظرًا لأنه تمت برمجته لتقديم استجابة دائمًا لمطالبات المستخدم، فقد يؤدي ذلك إلى حالات يكذب فيها الذكاء الاصطناعي بشكل فعال.

ليس من الواضح متى سيتم إصلاح حل Apple للخلل في ميزة تلخيص الإشعارات الخاصة بها. وقال صانع iPhone إنه يتوقع وصول واحد في “الأسابيع المقبلة”.