يشهد سام ألمان ، الرئيس التنفيذي لشركة Openai ، و Lisa Su ، الرئيس التنفيذي للأجهزة المتقدمة المتقدمة ، خلال جلسة استماع لجنة التجارة والعلوم والنقل في مجلس الشيوخ بعنوان “الفوز بسباق الذكاء الاصطناعي: تعزيز القدرات الأمريكية في الحوسبة والابتكار” ، في بناء هارت يوم الخميس 8 مايو 2025.
توم ويليامز | CQ-Roll Call ، Inc. | غيتي الصور
في كاسحة مقابلة في الأسبوع الماضي ، خاطب الرئيس التنفيذي لشركة Openai Sam Altman عددًا كبيرًا من الأسئلة الأخلاقية والأخلاقية فيما يتعلق بشركته ونموذج ChatGpt AI الشهير.
وقال ألتمان لمضيف فوكس نيوز السابق في مقابلة مع كل يوم ، كل يوم ، يتحدث مئات الملايين من الناس إلى نموذجنا “أنظر ، أنا لا أنام جيدًا في الليل.
وقال ألمان: “أنا لا أقلق بالفعل من أن نخطئ في القرارات الأخلاقية الكبرى” ، على الرغم من أنه اعترف “ربما سنخطئ أيضًا”.
بدلاً من ذلك ، قال إنه يفقد أكبر قدر من النوم على “القرارات الصغيرة جدًا” بشأن السلوك النموذجي ، والذي يمكن أن يكون له تداعيات كبيرة في النهاية.
تميل هذه القرارات إلى مركز الأخلاق التي تُعلم chatgpt ، وما هي الأسئلة التي يقوم بها chatbot ولا تجيب عليها. إليك مخططًا لبعض تلك المعضلات الأخلاقية والأخلاقية التي يبدو أنها تبقي Altman مستيقظًا في الليل.
كيف يعالج ChatGPT الانتحار؟
وفقًا لـ Altman ، فإن أصعب قضية تتصارع الشركة معها مؤخرًا هي كيفية تعامل ChatGpt إلى الانتحار ، في ضوء دعوى قضائية من عائلة ألقت باللوم على chatbot في انتحار ابنهم المراهق.
قال الرئيس التنفيذي إنه من بين الآلاف من الأشخاص الذين ينتحرون كل أسبوع ، ربما كان الكثير منهم قد التحدث إلى chatgpt في الفائدة.
“ربما تحدثوا عنها [suicide]قال ألمان بصراحة: “وربما لم ننقذ حياتهم. ربما كان بإمكاننا قول شيء أفضل. ربما كان يمكن أن نكون أكثر نشاطا. ربما كان بإمكاننا تقديم نصيحة أفضل قليلاً ، مهلا ، تحتاج إلى الحصول على هذه المساعدة “.
في الشهر الماضي ، قدم والدا آدم رين أ مسؤولية المنتج وبدلة الموت غير المشروعة ضد Openai بعد أن توفي ابنهما بالانتحار في سن 16 عامًا. في الدعوى ، قالت العائلة إن “Chatgpt ساعدت بنشاط آدم على استكشاف أساليب الانتحار”.
بعد فترة وجيزة ، في أ منشور المدونة بعنوان “مساعدة الناس عندما يحتاجون إليها أكثر” ، ” Openai خطط مفصلة لمعالجة أوجه القصور في ChatGPT عند التعامل مع “المواقف الحساسة” ، وقالت إنها ستستمر في تحسين تقنيتها لحماية الأشخاص الأكثر ضعفًا.
كيف يتم تحديد أخلاقيات شاتغبت؟
كان هناك موضوع كبير آخر تم طرحه في مقابلة الجلوس هو الأخلاق والأخلاق التي تُعلم ChatGpt وشرائها.
بينما وصف Altman النموذج الأساسي لـ ChatGPT على أنه مدرب على التجربة الجماعية والمعرفة والتعلم للإنسانية ، قال إنه يجب على Openai بعد ذلك مواءمة بعض السلوكيات من chatbot وتحديد الأسئلة التي لن يجيب عليها.
“هذه مشكلة صعبة حقًا. لدينا الكثير من المستخدمين الآن ، ويأتيون من وجهات نظر الحياة المختلفة للغاية … لكن على العموم ، فوجئت بسرور بقدرة النموذج على تعلم وتطبيق إطار أخلاقي.”
عند الضغط على كيفية تحديد بعض المواصفات النموذجية ، قال Altman إن الشركة استشارت “مئات من الفلاسفة الأخلاقيين والأشخاص الذين يفكرون في أخلاقيات التكنولوجيا والأنظمة”.
مثال قدمه لمواصفات نموذجية تم إجراؤها على أن ChatGPT سوف يتجنب الإجابة على الأسئلة حول كيفية صنع الأسلحة البيولوجية إذا دعا المستخدمون.
وقال ألمان: “هناك أمثلة واضحة عن المكان الذي يتمتع به المجتمع في توتر كبير مع حرية المستخدم” ، على الرغم من أنه أضاف الشركة “لن تحصل على كل شيء بشكل صحيح ، ويحتاج أيضًا إلى مدخلات العالم” للمساعدة في اتخاذ هذه القرارات.
ما مدى خصوصية chatgpt؟
كان موضوع مناقشة كبير آخر هو مفهوم خصوصية المستخدم فيما يتعلق بـ chatbots ، مع جادل كارلسون أنه يمكن استخدام الذكاء الاصطناعي التوليدي لـ “التحكم الشمولي”.
رداً على ذلك ، قال Altman إن جزءًا من السياسة التي كان يضغط عليها في واشنطن هي “امتياز الذكاء الاصطناعي” ، والتي تشير إلى فكرة أن أي شيء يقوله المستخدم في chatbot يجب أن يكون سريًا تمامًا.
“عندما تتحدث مع طبيب عن صحتك أو محامًا حول مشاكلك القانونية ، لا يمكن للحكومة الحصول على هذه المعلومات ، أليس كذلك؟ … أعتقد أنه يجب أن يكون لدينا نفس المفهوم لمنظمة العفو الدولية.”
وفقًا لـ Altman ، فإن ذلك سيتيح للمستخدمين استشارة AI chatbots حول تاريخهم الطبي ومشاكلهم القانونية ، من بين أشياء أخرى. وأضاف أنه يمكن للمسؤولين الأمريكيين في الوقت الحالي استدعاء الشركة لبيانات المستخدم.
وقال “أعتقد أنني أشعر بالتفاؤل لأننا قادرون على جعل الحكومة يفهمون أهمية هذا”.
هل سيتم استخدام chatgpt في العمليات العسكرية؟
عندما سئل من قبل كارلسون عما إذا كان الجيش سوف يستخدم من قبل الجيش لإلحاق الأذى بالبشر ، لم يقدم Altman إجابة مباشرة.
“لا أعرف الطريقة التي يستخدم بها الأشخاص في الجيش Chatgpt اليوم … لكنني أظن أن هناك الكثير من الناس في الجيش يتحدثون إلى Chatgpt للحصول على المشورة.”
في وقت لاحق ، أضاف أنه لم يكن متأكداً “بالضبط كيف يشعر حيال ذلك”.
كانت Openai واحدة من شركات الذكاء الاصطناعى تلقى عقد 200 مليون دولار من وزارة الدفاع الأمريكية لوضع الذكاء الاصطناعي للعمل في الجيش الأمريكي. الشركة قال في منشور مدونة أنها ستوفر حكومة الولايات المتحدة وصولًا إلى نماذج الذكاء الاصطناعى المخصصة لأمن الأمن القومي والدعم ومعلومات خريطة الطريق للمنتج.
ما مدى قوة Openai؟
توقع كارلسون ، في مقابلته ، أنه في مسارها الحالي ، يمكن أن يجمع Sam Altman ، Sam Altman ، على مساره الحالي ، إلى ما يطلق عليه “Chatgpt”.
رداً على ذلك ، قال Altman إنه اعتاد أن تقلق كثيرًا بشأن تركيز القوة التي يمكن أن تنجم عن الذكاء الاصطناعي التوليدي ، لكنه يعتقد الآن أن الذكاء الاصطناعى سيؤدي إلى “تسوية ضخمة” لجميع الناس.
“ما يحدث الآن هو أن الكثير من الأشخاص يستخدمون chatgpt وغيرها من الدردشة ، وكلهم أكثر قدرة. إنهم كلهم يبذلون المزيد من الأشياء. إنهم جميعًا قادرون على تحقيق المزيد ، وبدء أعمال جديدة ، والتوصل إلى معرفة جديدة ، وهذا أمر جيد.”
ومع ذلك ، قال الرئيس التنفيذي إنه يعتقد أن الذكاء الاصطناعى سوف يلغي العديد من الوظائف الموجودة اليوم ، وخاصة على المدى القصير.
