يتحدث الرئيس التنفيذي لشركة Openai Sam Altman خلال المراجعة المتكاملة للاحتياطي الفيدرالي لإطار العاصمة للبنوك الكبيرة في واشنطن العاصمة ، الولايات المتحدة ، 22 يوليو 2025.
كين سيدينو | رويترز
Openai تقوم بالتفصيل خططها لمعالجة أوجه القصور في ChatGpt عند التعامل مع “المواقف الحساسة”
بعد دعوى قضائية من عائلة ألقت باللوم على chatbot في وفاة ابنهم المراهق بالانتحار.
وكتب Openai يوم الثلاثاء: “سنستمر في التحسن ، إرشادات خبراء وأستندوا إلى المسؤولية تجاه الأشخاص الذين يستخدمون أدواتنا – ونأمل أن ينضم إلينا الآخرون في المساعدة في التأكد منشور المدونة بعنوان “مساعدة الناس عندما يحتاجون إليها أكثر”.
في وقت سابق من يوم الثلاثاء ، رفع والدا آدم رين مسؤولية المنتج ودعوى الوفاة غير المشروعة ضد Openai بعد أن توفي ابنهما بالانتحار في سن 16 ، ذكرت NBC News. في الدعوى ، قالت العائلة إن “Chatgpt ساعدت بنشاط آدم على استكشاف أساليب الانتحار”.
لم تذكر الشركة عائلة رين أو الدعوى في منشور مدونتها.
قال Openai إنه على الرغم من تدريب ChatGPT على توجيه الأشخاص لطلب المساعدة عند التعبير عن نية الانتحار ، إلا أن chatbot يميل إلى تقديم إجابات تتعارض مع ضمانات الشركة بعد العديد من الرسائل على مدار فترة زمنية طويلة.
قالت الشركة إنها تعمل أيضًا على تحديث لنموذج GPT-5 الذي تم إصداره في وقت سابق من هذا الشهر سيؤدي ذلك إلى إلغاء محادثات chatbot ، وأنها تستكشف كيفية “ربط الأشخاص بالمعالجين المعتمدين قبل أن يكونوا في أزمة حادة” ، بما في ذلك إنشاء شبكة من المهنيين المرخصين الذين يمكن للمستخدمين الوصول إليه مباشرة من خلال ChatGpt.
بالإضافة إلى ذلك ، قال Openai إنه يبحث في كيفية توصيل المستخدمين بـ “الأقرب إليهم” ، مثل الأصدقاء وأفراد الأسرة.
عندما يتعلق الأمر بالمراهقين ، قال Openai إنه سيقدم قريبًا عناصر تحكم من شأنها أن تمنح الآباء خيارات لاكتساب المزيد من التبصر حول كيفية استخدام أطفالهم ChatGPT.
أخبر جاي إيدلسون ، المحامي الرئيسي لعائلة رين ، CNBC يوم الثلاثاء أن لا أحد من Openai قد تواصل مع الأسرة مباشرة لتقديم التعازي أو مناقشة أي جهد لتحسين سلامة منتجات الشركة.
وقال إيدلسون: “إذا كنت ستستخدم أقوى تقنية للمستهلكين على هذا الكوكب – عليك أن تثق في أن المؤسسين لديهم بوصلة أخلاقية”. “هذا هو السؤال الخاص بـ Openai الآن ، كيف يمكن لأي شخص أن يثق بهم؟”
قصة رين ليست معزولة.
الكاتبة لورا ريلي في وقت سابق من هذا الشهر نشرت مقال في صحيفة نيويورك تايمز ، توضح بالتفصيل كيف توفيت ابنتها البالغة من العمر 29 عامًا بالانتحار بعد مناقشة الفكرة على نطاق واسع مع شاتغبت. وفي حالة في فلوريدا ، توفي Sewell Setzer III البالغ من العمر 14 عامًا بالانتحار العام الماضي بعد مناقشته مع AI chatbot على شخصية التطبيق.
مع نمو خدمات الذكاء الاصطناعي ، تنشأ مجموعة من المخاوف حول استخدامها للعلاج ، الرفقة وغيرها من الاحتياجات العاطفية.
لكن تنظيم الصناعة قد يكون أيضًا تحديًا.
يوم الاثنين ، تحالف من شركات الذكاء الاصطناعى ورأسماليات المشروع والمديرين التنفيذيين ، بما في ذلك رئيس Openai والمؤسس المشارك Greg Brockman أعلن قيادة المستقبل ، وهي عملية سياسية “تعارض السياسات التي تخنق الابتكار” عندما يتعلق الأمر بمنظمة العفو الدولية.
إذا كنت تعاني من أفكار انتحارية أو في محنة ، فاتصل شريان الحياة الانتحاري والأزمات في 988 للحصول على الدعم والمساعدة من مستشار مدرب.
يشاهد: يقول Openai إن ملف Musk “يتفق مع نمطه المستمر من المضايقات
