نورفوتو | نورفوتو | صور جيتي
منعت ماليزيا وإندونيسيا الوصول إلى برنامج Chatbot للذكاء الاصطناعي الخاص بـ Elon Musk Grok خلال عطلة نهاية الأسبوع بسبب مخاوف من استخدام الأداة لإنشاء محتوى جنسي صريح غير توافقي.
الهيئات التنظيمية الماليزية أمر سيتم وضع قيود مؤقتة على برنامج الدردشة الآلي من xAI يوم الأحد بعد “الإخفاقات المتكررة من قبل شركة X Corp” لمعالجة المخاطر المرتبطة بأداة الذكاء الاصطناعي.
جاءت هذه الخطوة بعد يوم واحد فقط من تدخل إندونيسيا لإيقاف الوصول إلى Grok مؤقتًا بسبب مخاوف مماثلة واستدعاء مسؤولي X بشأن هذه المسألة. بحسب ترجمة CNBC للبيان.
وتأتي إجراءات دول جنوب شرق آسيا بعد اكتشاف أن برنامج Grok الخاص بـ xAI يمكّن المستخدمين من ذلك بسهولة يولد ومشاركة الصور عبر الإنترنت التي تتضمن صورًا فاضحة غير موافقة عليها ومواد الاعتداء الجنسي على الأطفال (CSAM).
قامت شركة Musk مؤخرًا بتحديث ميزات Grok Imagine الخاصة بها، مما يتيح إنشاء صور أسهل من المطالبات النصية على برنامج الدردشة الآلي، والذي تم دمجه مع منصة الوسائط الاجتماعية الخاصة بـ Musk X، مما يمنحه نطاقًا واسعًا.
وسط تصاعد المخاوف بشأن سياسة الإشراف على محتوى Grok، xAI أعلن من شأنه أن يقصر ميزات إنشاء الصور وتحريرها على المشتركين الذين يدفعون رسومًا، في محاولة لتصحيح الثغرات الوقائية التي تسمح بالمخرجات ذات الطابع الجنسي.
المسك، الاستجابة على X، أكدت أيضًا أن المستخدمين الذين ينشئون محتوى غير قانوني عبر Grok سيواجهون عواقب تعادل تحميل هذه المواد مباشرةً على منصة التواصل الاجتماعي.
حاولت CNBC الوصول إلى xAI للتعليق على التطورات خلال عطلة نهاية الأسبوع. أعادت رسالة بريد إلكتروني صحفية للشركة رسالة تلقائية نصها “Legacy Media Lies”.
ردود “غير كافية”.
فشلت ردود X العامة والخاصة وسط الجدل في تلبية مخاوف المنظمين في إندونيسيا وماليزيا، بالإضافة إلى الآخرين الذين أطلقوا تحقيقات.
وقالت لجنة الاتصالات والوسائط المتعددة الماليزية إن ردود X “غير الكافية” “اعتمدت في المقام الأول على آليات الإبلاغ التي بدأها المستخدم وفشلت في معالجة المخاطر الكامنة التي يفرضها تصميم وتشغيل أداة الذكاء الاصطناعي”.
وقالت الهيئة الرقابية: “بناء على ذلك، تم فرض التقييد كإجراء وقائي ومتناسب بينما تستمر الإجراءات القانونية والتنظيمية”. “سيظل الوصول إلى Grok مقيدًا حتى يتم تنفيذ ضمانات فعالة، خاصة لمنع المحتوى الذي يشمل النساء والأطفال.”
تطبق كل من إندونيسيا وماليزيا قوانين صارمة لمكافحة المواد الإباحية، والتي تحظر مشاركة المحتوى الفاحش والجنسي عبر الإنترنت على نطاق أوسع.
وفي الوقت نفسه، قالت وزارة الاتصالات والشؤون الرقمية الإندونيسية، ميتيا حفيظ، إن “الحكومة تعتبر التزييف العميق الجنسي غير الرضائي انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي”.
كما صنف حفيظ إساءة استخدام الذكاء الاصطناعي لإنتاج مواد إباحية مزيفة كشكل من أشكال “العنف الرقمي”، وفقًا لتصريحات نشرتها أنتارا نيوز المملوكة للدولة.
السلطات في ولايات قضائية أخرى، بما في ذلك الاتحاد الأوروبي والمملكة المتحدة والبرازيل والهند، فعلت ذلك أيضًا دعا إلى تحقيقات في دور Grok في تسهيل التزييف العميق الفاحش.
هيئة رقابية بريطانية، مؤسسة مراقبة الإنترنت، قال وفي الأسبوع الماضي اكتشف محللوها “صورًا إجرامية” لأطفال تتراوح أعمارهم بين 11 و13 عامًا، ويبدو أنها تم إنشاؤها باستخدام برنامج Grok.
لقد فعل ذلك بعض المشرعين الديمقراطيين في واشنطن مُستَحسَن تقوم متاجر التطبيقات بتعليق أداة الذكاء الاصطناعي، على الأقل حتى يقوم Musk بتنفيذ تغييرات كبيرة.
في أرسل بريدًا إلكترونيًا إلى CNBC الأسبوع الماضي، وقالت وزارة العدل في بيان إنها “تأخذ مواد الاعتداء الجنسي على الأطفال التي ينتجها الذكاء الاصطناعي على محمل الجد وستحاكم بشدة أي منتج أو حائز لـ CSAM”.
وأضافت: “نحن نواصل استكشاف سبل تحسين التنفيذ في هذا المجال لحماية الأطفال ومحاسبة الأفراد الذين يستغلون التكنولوجيا لإيذاء الفئات الأكثر ضعفًا لدينا”.
– ساهمت لورا كولودني من CNBC في إعداد هذا التقرير.
