في هذا الصورة ، يظهر صديق افتراضي على شاشة جهاز iPhone في 30 أبريل 2020 ، في أرلينغتون ، فرجينيا.
أوليفييه douliery | AFP | غيتي الصور
لجنة التجارة الفيدرالية يوم الخميس أعلن إنها تصدر أوامر إلى سبع شركات بما في ذلك Openai ، الأبجديةو ميتا، xai و فرقعة لفهم كيف الذكاء الاصطناعي من المحتمل أن تؤثر chatbots سلبًا على الأطفال والمراهقين.
ال الوكالة الفيدرالية قد يتم استخدام chatbots الذكاء الاصطناعى لمحاكاة التواصل الذي يشبه الإنسان و العلاقات داخل الشخصية مع المستخدمين ، وأنه يريد أن يفهم الخطوات التي اتخذتها هذه الشركات “لتقييم سلامة هذه الدردشة عند التصرف كرفاق” ، وفقًا لبيان.
وقال أندرو فيرغسون ، رئيس لجنة التجارة الفيدرالية في بيان “حماية الأطفال عبر الإنترنت هي أولوية قصوى بالنسبة ل Trump-Vance FTC ، وكذلك تعزيز الابتكار في القطاعات الحرجة لاقتصادنا”.
ورفض ميتا التعليق على التحقيق. لم يستجب الأبجدية و Snap و Xai على الفور لطلب CNBC للتعليق.
قالت FTC إنها تسعى للحصول على معلومات حول كيفية تحكم هذه الشركات على مشاركة المستخدم وتطويرها والموافقة عليها ، واستخدامها أو مشاركتها ، ومراقبة وفرض الامتثال لقواعد الشركة وشروط الخدمة وتخفيف الآثار السلبية ، من بين مواضيع أخرى.
وقال متحدث باسم Openai لـ CNBC في بيان “أولويتنا هي جعل ChatGPT مفيدة وآمنة للجميع ، ونحن نعرف مسائل السلامة قبل كل شيء عندما يشارك الشباب”. “نحن ندرك أن FTC لديها أسئلة ومخاوف مفتوحة ، ونحن ملتزمون بالانخراط بشكل بناء والرد عليها مباشرة.”
تقنيات الأحرف ، التي تدير الحرف تم تسمية Bot ، و Instagram ، المملوكة لـ Meta ، أيضًا في الإصدار. لم ترد الشخصية على الفور على طلب CNBC للتعليق.
منذ إطلاق ChatGPT في أواخر عام 2022 ، ظهر مجموعة من الدردشة ، مما يخلق عددًا متزايدًا من المخاوف الأخلاقية والخصوصية ، كما فعل CNBC ذكرت سابقا.
الآثار المجتمعية للرفاق عميق بالفعل ، حتى مع وجود الصناعة في مراحلها المبكرة للغاية ، حيث تعاني الولايات المتحدة من خلال وباء الوحدة. قال خبراء الصناعة إنهم يتوقعون أن تكثف المخاوف الأخلاقية والسلامة بمجرد أن تبدأ تقنية الذكاء الاصطناعى في تدريب نفسها ، مما يخلق إمكانية لنتائج غير متوقعة بشكل متزايد.
لكن بعض أغنى الأشخاص في العالم يصفون قوة الصحابة ويعملون على تطوير التكنولوجيا في شركاتهم. إيلون موسك في يوليو أعلن ميزة الصحابة للمستخدمين الذين يدفعون للاشتراك في تطبيق Xai Grok chatbot. في أبريل ، قال الرئيس التنفيذي لشركة Meta Mark Zuckerberg إن الناس يريدون الذكاء الاصطناعي المخصص الذي يفهمهم.
“أعتقد أن الكثير من هذه الأشياء التي قد يكون هناك اليوم قليلاً من وصمة العار – أعتقد أنه مع مرور الوقت ، سنجد المفردات كمجتمع لتكون قادرة على التعبير عن سبب كون ذلك قيمة ولماذا يقوم الأشخاص الذين يقومون بهذه الأشياء ، ولماذا يكونون عقلانيين لفعل ذلك ، وكيف يضيفون قيمة لحياتهم” ، قال زوكربيرج على بودكاست.
في الشهر الماضي ، السناتور جوش هاولي ، آر م. ، أعلن تحقيق في التعريف بعد أ تقرير رويترز أن الشركة سمحت لشركة chatbots بإجراء محادثة رومانسية وحسية مع الأطفال.
قام تقرير رويترز بتفصيل وثيقة ميتا داخلية وصفت سلوكيات chatbot المسموح بها أثناء تطوير وتدريب البرنامج. في أحد الأمثلة ، ذكرت رويترز أنه تم السماح لدردشة الدردشة بإجراء محادثة رومانسية مع طفل يبلغ من العمر ثماني سنوات ويمكن أن يقول إن “كل شبر منكم هو تحفة-كنز أعتز به بعمق”.
تصنيع ميتا تغييرات مؤقتة إلى سياسات AI chatbot بعد تقرير رويترز حتى لا تناقش الروبوتات موضوعات مثل إيذاء الذات والانتحار واضطرابات الأكل وتجنب محادثات رومانسية غير لائقة.
وبالمثل ، Openai أوضحت خططها لمعالجة كيفية التعامل مع ChatGPT مع “المواقف الحساسة” في الشهر الماضي بعد دعوى قضائية من عائلة ألقت باللوم على chatbot بسبب وفاة ابنها المراهق بالانتحار.
إذا كنت تعاني من أفكار انتحارية أو في محنة ، فاتصل شريان الحياة الانتحاري والأزمات في 988 للحصول على الدعم والمساعدة من مستشار مدرب.
-CNBC ساهم سلفادور رودريغيز وآني بالمر في هذا التقرير
