تم إجراء تحقيق Snap AI chatbot في المملكة المتحدة بسبب مخاوف تتعلق بالخصوصية للمراهقين
تم إنشاء تطبيق Snapchat على الهاتف الذكي في سانت توماس، جزر فيرجن، في 29 يناير 2021.
غابي جونز | بلومبرج | صور جيتي
فرقعة قيد التحقيق في المملكة المتحدة بشأن مخاطر الخصوصية المحتملة المرتبطة ببرنامج الدردشة الآلي الخاص بالذكاء الاصطناعي التابع للشركة.
أصدر مكتب مفوض المعلومات (ICO)، وهو الجهة المنظمة لحماية البيانات في البلاد، إشعارًا تنفيذيًا أوليًا يوم الجمعة، زاعمًا أن هناك مخاطر روبوت الدردشة، الذكاء الاصطناعي الخاص بي، قد يطرح على مستخدمي Snapchat، وخاصة الذين تتراوح أعمارهم بين 13 عامًا و 17 عامًا.
“تشير النتائج الأولية لتحقيقنا إلى فشل مثير للقلق من قبل شركة Snap في تحديد وتقييم مخاطر الخصوصية للأطفال والمستخدمين الآخرين بشكل مناسب قبل إطلاق My AI”. مفوض المعلومات جون إدواردز قال في الإصدار.
النتائج ليست قاطعة بعد وستتاح لشركة Snap فرصة لمعالجة المخاوف المؤقتة قبل القرار النهائي. إذا أدت النتائج المؤقتة التي توصلت إليها ICO إلى إشعار تنفيذي، فقد يتعين على Snap التوقف عن تقديم روبوت الدردشة المدعم بالذكاء الاصطناعي لمستخدمي المملكة المتحدة حتى يتم إصلاح مخاوف الخصوصية.
وقال متحدث باسم Snap لـ CNBC في رسالة بالبريد الإلكتروني: “نحن نراجع عن كثب القرار المؤقت لطرح العملة الأولي (ICO). مثل الطرح الأولي للعملة (ICO)، نحن ملتزمون بحماية خصوصية مستخدمينا”. “تماشيًا مع نهجنا القياسي في تطوير المنتجات، خضع My AI لعملية مراجعة قانونية ومراجعة خصوصية قوية قبل إتاحته للجمهور.”
وقالت شركة التكنولوجيا إنها ستواصل العمل مع ICO للتأكد من أن المنظمة مرتاحة لإجراءات تقييم المخاطر الخاصة بشركة Snap. روبوت الدردشة المدعم بالذكاء الاصطناعي، والذي يعمل OpenAI’s ChatGPTيحتوي على ميزات تنبه الآباء إذا كان أطفالهم يستخدمون برنامج الدردشة الآلي. وتقول شركة Snap إن لديها أيضًا إرشادات عامة يجب على الروبوتات الخاصة بها اتباعها للامتناع عن التعليقات المسيئة.
ولم يقدم مكتب ICO تعليقًا إضافيًا، مشيرًا إلى الطبيعة المؤقتة للنتائج.
وسبق أن أصدرت الوكالة “إرشادات بشأن الذكاء الاصطناعي وحماية البيانات” وأعقب ذلك إشعار عام في أبريل يتضمن الأسئلة التي يجب على المطورين والمستخدمين طرحها حول الذكاء الاصطناعي.
واجه برنامج الدردشة الآلي التابع لشركة Snap، التدقيق منذ ظهوره لأول مرة في وقت سابق من هذا العام بسبب محادثات غير لائقة، مثل تقديم المشورة لشاب يبلغ من العمر 15 عامًا حول كيفية إخفاء رائحة الكحول والماريجوانا. وفقا لصحيفة واشنطن بوست.
وقالت شركة Snap في أحدث أرباحها إن أكثر من 150 مليون شخص استخدموا روبوت الذكاء الاصطناعي.
كما واجهت أشكال أخرى من الذكاء الاصطناعي التوليدي انتقادات مؤخرًا هذا الأسبوع. على سبيل المثال، تم استخدام الذكاء الاصطناعي المولد للصور من Bing من قبل لوحة الرسائل المتطرفة 4chan لإنشاء صور عنصرية، تم الإبلاغ عن 404.
