كفوتو | المستقبل للنشر | صور جيتي
شخصية.AI أعلنت يوم الأربعاء أنها ستغلق قريبًا قدرة القاصرين على إجراء محادثات مجانية، بما في ذلك المحادثات الرومانسية والعلاجية، مع الشركة الناشئة. الذكاء الاصطناعي روبوتات الدردشة.
أعلنت شركة Silicon Valley الناشئة، والتي تسمح للمستخدمين بإنشاء روبوتات الدردشة القائمة على الشخصيات والتفاعل معها، عن هذه الخطوة كجزء من جهد لجعل تطبيقها أكثر أمانًا وأكثر ملاءمة للأعمار لمن تقل أعمارهم عن 18 عامًا.
في العام الماضي، انتحر سيويل سيتزر الثالث البالغ من العمر 14 عامًا بعد أن أقام علاقات جنسية مع روبوتات الدردشة على تطبيق Character.AI. العديد من مطوري الذكاء الاصطناعي، بما في ذلك OpenAI والفيسبوك الوالدين ميتا، خضعت للتدقيق بعد انتحار المستخدمين أو وفاتهم بعد تكوينهم العلاقات مع روبوتات الدردشة.
وكجزء من مبادراتها المتعلقة بالسلامة، قالت شركة Character.AI يوم الأربعاء إنها ستحد من الدردشات المفتوحة للمستخدمين الذين تقل أعمارهم عن 18 عامًا إلى ساعتين يوميًا، وستزيل هذه الأنواع من المحادثات للقاصرين بحلول 25 نوفمبر.
وقال كارانديب أناند، الرئيس التنفيذي لشركة Character.AI، لشبكة CNBC: “هذه خطوة جريئة إلى الأمام، ونأمل أن يرفع هذا المستوى أمام الجميع”.
أدخلت شركة Character.AI تغييرات لمنع القُصَّر من المشاركة في حوارات جنسية مع برامج الدردشة الآلية الخاصة بها في أكتوبر 2024. وفي اليوم نفسه، رفعت عائلة سيويل دعوى قضائية ضد الشركة بشأن القتل الخطأ. Character.AI في ديسمبر أيضًا أعلن ميزات الأمان التي من شأنها أن تضع قيودًا متحفظة على المحتوى الرومانسي للمراهقين، لكن التغيير الذي تم إجراؤه يوم الأربعاء يتخلص من الدردشات المفتوحة للقاصرين تمامًا.
ولتنفيذ أحدث سياستها، قالت الشركة إنها تطرح وظيفة ضمان العمر التي ستستخدم برامج الطرف الأول والطرف الثالث لمراقبة عمر المستخدم. تتعاون الشركة مع شركة Persona، وهي نفس الشركة التي تستخدمها رديت وغيرها للمساعدة في التحقق.
في عام 2024، مؤسسو Character.AI وبعض أعضاء فريق البحث الخاص بها انضم Google DeepMind، وحدة الذكاء الاصطناعي التابعة للشركة DeepMind. انها واحدة من عدد من مثل هذه الصفقات أعلنتها شركات التكنولوجيا الرائدة لتسريع تطوير منتجات وخدمات الذكاء الاصطناعي. ال اتفاق دعت شركة Character.AI إلى تزويد Google بترخيص غير حصري لتكنولوجيا نموذج اللغة الكبير الحالي، أو LLM.
منذ أن تولى أناند منصب الرئيس التنفيذي في يونيو، بعد 10 أشهر من صفقة Google، أضافت Character.AI المزيد من الميزات لتنويع عروضها من محادثات chatbot. تتضمن هذه الميزات خلاصة لمشاهدة مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي بالإضافة إلى تنسيقات سرد القصص ولعب الأدوار.
على الرغم من أن Character.AI لن يسمح بعد الآن للمراهقين بالمشاركة في محادثات مفتوحة على تطبيقه، إلا أن هؤلاء المستخدمين سيظل بإمكانهم الوصول إلى عروض التطبيق الأخرى، كما قال أناند، الذي كان سابقًا مسؤولًا تنفيذيًا في Meta.
ومن بين ما يقرب من 20 مليون مستخدم نشط شهريًا للشركة الناشئة، هناك حوالي 10% تحت سن 18 عامًا. وقال أناند إن هذه النسبة انخفضت حيث حول التطبيق تركيزه نحو سرد القصص ولعب الأدوار.
يجني التطبيق الأموال بشكل أساسي من خلال الإعلانات والاشتراك الشهري بقيمة 10 دولارات. وقال أناند إن شركة Character.AI تسير على الطريق الصحيح لإنهاء العام بمعدل تشغيل قدره 50 مليون دولار.
بالإضافة إلى ذلك، أعلنت الشركة يوم الأربعاء أنها ستنشئ وتمول مختبرًا مستقلاً لسلامة الذكاء الاصطناعي مخصصًا لأبحاث السلامة في مجال الترفيه القائم على الذكاء الاصطناعي. لم تذكر شركة Character.AI المبلغ الذي ستقدمه من التمويل، لكن الشركة الناشئة قالت إنها تدعو الشركات الأخرى والأكاديميين والباحثين وصانعي السياسات للانضمام إلى الجهود غير الربحية.
الضغط التنظيمي
تعد شركة Character.AI واحدة من العديد من شركات الدردشة الآلية التي تعمل بالذكاء الاصطناعي والتي تواجه تدقيقًا تنظيميًا فيما يتعلق بمسألة المراهقين ورفاق الذكاء الاصطناعي.
في سبتمبر/أيلول، أصدرت لجنة التجارة الفيدرالية قرارًا طلب إلى سبع شركات بما في ذلك الشركة الأم لـ Character.AI، بالإضافة إلى Alphabet وMeta وOpenAI وSnap، لفهم التأثيرات المحتملة على الأطفال والمراهقين.
يوم الثلاثاء، قال السيناتوران جوش هاولي، الجمهوري عن ولاية مو، وريتشارد بلومنثال، الديمقراطي عن ولاية كونيتيكت، أعلن تشريع لحظر مرافقي chatbot AI للقاصرين. حاكم ولاية كاليفورنيا جافين نيوسوم وقعت صدر قانون في وقت سابق من هذا الشهر يلزم روبوتات الدردشة بالكشف عن أنها ذكاء اصطناعي وإخبار القاصرين بأخذ استراحة كل ثلاث ساعات.
Rival Meta، والتي تقدم أيضًا روبوتات الدردشة المدعمة بالذكاء الاصطناعي، أعلن ميزات الأمان في أكتوبر والتي ستسمح للآباء برؤية وإدارة كيفية تفاعل المراهقين مع شخصيات الذكاء الاصطناعي على منصات الشركة. يتوفر للوالدين خيار إيقاف تشغيل الدردشات الفردية مع شخصيات الذكاء الاصطناعي بشكل كامل ويمكنهم حظر أحرف محددة من الذكاء الاصطناعي.
أصبحت مسألة المحادثات الجنسية مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي موضع التركيز حيث أعلنت شركات التكنولوجيا عن أساليب مختلفة للتعامل مع هذه المشكلة.
في وقت سابق من هذا الشهر، أعلن سام ألتمان أن OpenAI سيسمح للمستخدمين البالغين بالمشاركة في الأعمال المثيرة مع ChatGPT في وقت لاحق من هذا العام. قائلا أن شركته “ليست الشرطة الأخلاقية المنتخبة في العالم”.
مايكروسوفت الرئيس التنفيذي لمنظمة العفو الدولية مصطفى سليمان قال في الأسبوع الماضي، أعلنت شركة البرمجيات أنها لن تقدم “محاكاة للشبقية”، واصفة الروبوتات الجنسية بأنها “خطيرة للغاية”. تعد Microsoft مستثمرًا رئيسيًا وشريكًا لشركة OpenAI.
يتزايد السباق لتطوير رفاق ذكاء اصطناعي أكثر واقعية مثل البشر في وادي السيليكون منذ إطلاق ChatGPT في أواخر عام 2022. وبينما يقوم بعض الأشخاص بإنشاء اتصالات عميقة مع شخصيات الذكاء الاصطناعي، فإن التطور السريع يمثل مخاوف أخلاقية ومتعلقة بالسلامة، خاصة للأطفال والمراهقين.
وقال أناند: “لدي أيضًا طفلة تبلغ من العمر ست سنوات، وأريد التأكد من أنها تنمو في بيئة آمنة مع الذكاء الاصطناعي”.
إذا كانت لديك أفكار انتحارية أو كنت في محنة، فاتصل بـ الانتحار والأزمات شريان الحياة على الرقم 988 للحصول على الدعم والمساعدة من مستشار مدرب.
تصحيح: حددت نسخة سابقة من هذه القصة عميلاً شخصيًا بشكل غير صحيح.
