يسعى أعضاء مجلس الشيوخ الأمريكي إلى منع القاصرين من استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي

قد يتطلب التشريع الذي تم تقديمه في الكونجرس الأمريكي من مشغلي برامج الدردشة الآلية العاملة بالذكاء الاصطناعي تنفيذ عمليات التحقق من العمر ومنع الأشخاص الذين تقل أعمارهم عن 18 عامًا من استخدام خدماتهم، بعد سلسلة من حالات الانتحار بين المراهقين.

تهدف المبادئ التوجيهية الصادرة عن الحزبين الجمهوري والديمقراطي للتحقق من عمر المستخدم وقانون الحوار المسؤول (الحرس)، التي قدمها السيناتور الجمهوري جوش هاولي والسيناتور الديمقراطي ريتشارد بلومنثال، إلى حماية الأطفال في تفاعلاتهم مع روبوتات الدردشة والذكاء الاصطناعي التوليدي (GenAI).

وتأتي هذه الخطوة بعد عدد من انتحار المراهقين رفيعة المستوى التي ربطها الآباء باستخدام أطفالهم لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي.

وقال هاولي إن التشريع يمكن أن يشكل سابقة لتحدي قوة شركات التكنولوجيا الكبرى وهيمنتها السياسية، مشيرًا إلى أنه “يجب أن تكون هناك لافتة خارج غرفة مجلس الشيوخ تقول “تم شراؤها ودفعت ثمنها من قبل شركات التكنولوجيا الكبرى، لأن الحقيقة هي أنه لا شيء تقريبًا يعترضون على تجاوز قاعة مجلس الشيوخ”.

وفي بيان، انتقد بلومنتال دور شركات التكنولوجيا في تأجيج الأذى للأطفال، مشيرًا إلى أن “شركات الذكاء الاصطناعي تدفع روبوتات الدردشة الغادرة نحو الأطفال وتتجاهل عندما تتسبب منتجاتها في الاعتداء الجنسي، أو تجبرهم على إيذاء أنفسهم أو الانتحار… لقد خانت شركات التكنولوجيا الكبرى أي ادعاء بأننا يجب أن نثق في الشركات للقيام بالشيء الصحيح من تلقاء نفسها عندما تضع الربح أولاً قبل سلامة الأطفال”.

ويأتي مشروع القانون بعد شهر العائلات الثكلى أدلى بشهادته في الكونغرس أمام اللجنة القضائية بمجلس الشيوخ بشأن ضرر روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.

أطلق السيناتور هاولي أيضًا التحقيق في سياسات Meta للذكاء الاصطناعي في أغسطس، بعد إصدار وثيقة سياسة Meta الداخلية التي كشفت أن الشركة سمحت لروبوتات الدردشة “بإشراك الطفل في محادثات رومانسية أو حسية”.

وفي سبتمبر/أيلول، استمع مجلس الشيوخ إلى ميغان جارسيا، والدة طفل يبلغ من العمر 14 عاماً سيويل سيتزر، الذي استخدم شخصية.AIيتحدث بانتظام مع برنامج دردشة يُدعى Daenerys Targaryen، والذي أطلق النار على نفسه في فبراير 2024.

والدا الطفل البالغ من العمر 16 عامًا آدم رين كما شهد أمام اللجنة. مات آدم منتحرا بعد تعاطيه ChatGPT لدعم الصحة العقلية والرفقة، ورفع والداه دعوى قضائية في أغسطس ضده OpenAI للقتل غير المشروع، في سابقة عالمية.

سيتطلب مشروع القانون من روبوتات الدردشة المدعومة بالذكاء الاصطناعي تذكير المستخدمين بأنهم ليسوا بشرًا على فترات مدتها 30 دقيقة، بالإضافة إلى تقديم تدابير لمنعهم من الادعاء بأنهم بشر والكشف عن أنهم لا يقدمون “خدمات طبية أو قانونية أو مالية أو نفسية”.

ويأتي الإعلان عن مشروع القانون في نفس الأسبوع الذي أعلنت فيه شركة OpenAI البيانات الصادرة وكشفت أن أكثر من مليون مستخدم أسبوعيًا عُرض عليهم محتوى يحمل “نية انتحارية” عند استخدام ChatGPT، في حين أظهر أكثر من نصف مليون علامات محتملة لحالات طوارئ تتعلق بالصحة العقلية.

تقع المسؤولية الجنائية أيضًا ضمن نطاق مشروع القانون، مما يعني أن شركات الذكاء الاصطناعي التي تصمم أو تطور مرافقين للذكاء الاصطناعي يحثون القاصرين على السلوك الجنسي الصريح، أو يشجعون على الانتحار، ستواجه عقوبات جنائية وغرامات تصل إلى 100 ألف دولار.

يُعرّف قانون الحراسة مرافقي الذكاء الاصطناعي على أنهم أي روبوت محادثة يعمل بالذكاء الاصطناعي “يوفر استجابات تكيفية شبيهة بالإنسان لمدخلات المستخدم” و”مصمم لتشجيع أو تسهيل محاكاة التفاعل بين الأشخاص أو العاطفي أو الصداقة أو الرفقة أو التواصل العلاجي”.

الأبحاث هذا العام من هارفارد بزنس ريفيو وجدت أن حالة الاستخدام الأولى لـ GenAI هي الآن العلاج والرفقة، وتجاوز التنظيم الشخصي، وتوليد الأفكار والبحث المحدد.