كثفت مجموعة الدفاع عن السلامة The Dawn Project حملتها لتوضيح إخفاقات أنظمة الذكاء الاصطناعي ولماذا لا ينبغي نشرها في حالات الاستخدام الحرجة للسلامة.
يقوم مشروع الفجر بحملة لرفع مستوى الوعي حول خطر ما يسمى بـ “الهجوم السيبراني الكارثي” الناتج عن استخدام برامج تجارية سهلة الاختراق ومليئة بالأخطاء في التطبيقات الحرجة للسلامة، مثل أنظمة المياه وشبكة الطاقة.
وذكرت المجموعة على موقعها الإلكتروني أنه على الرغم من عيوب واضحة في أنظمة الذكاء الاصطناعيفي حين أن برامج المحادثة لا تزال تفشل في الإجابة على الأسئلة الأساسية، أو إعادة كتابة الحقائق بناءً على سوء فهم لمدخلات التدريب الخاصة بها، يواصل “رواد” الذكاء الاصطناعي المبالغة في تقدير التقدم الذي أحرزته هذه الأنظمة. ووفقًا لمشروع The Dawn، يشير هذا التقدم إلى أن مطوري الذكاء الاصطناعي مستعدون الآن لنشر أنظمة الذكاء الاصطناعي في البنية التحتية الرئيسية في جميع أنحاء العالم.
وقالت المجموعة: “عندما يتم استخدام أنظمة الذكاء الاصطناعي في التقنيات الكبرى ذات التأثير المدمر المحتمل، فمن الأهمية بمكان ألا تفشل أبدًا في أي حادث خطير يتعلق بالسلامة”. “لا يمكن تجاهل أو التقليل من مخاطر إطلاق هذه التقنيات على نطاق أوسع لاستخدامها في الأسلحة أو الآلات الثقيلة، بما في ذلك السيارات”.
كجزء من حملتها التي تضمنت الإعلان في ال وول ستريت جورنال و ال نيويورك تايمز ولزيادة الوعي بالمخاطر الكامنة في الذكاء الاصطناعي، أدان دان أوداود، رائد الأعمال في مجال البرمجيات ومؤسس مشروع داون، برنامج القيادة الذاتية الكامل الذي طورته شركة تيسلا. وقال إنه حتى بعد 10 سنوات من التطوير، لا تزال تقنية الذكاء الاصطناعي التي طورتها تيسلا تتجاوز حافلة مدرسية متوقفة بشكل غير قانوني وتدهس الأطفال الذين يعبرون الطريق.
وقد قامت الإدارة الوطنية لسلامة المرور على الطرق السريعة في الولايات المتحدة بالتحقيق سابقًا فيما إذا كان الطيار الآلي في تيسلا احتوى على عيب خلق خطرًا غير معقول على سلامة المركبات الآلية. وشمل تقييمه تحليلًا مكثفًا للحوادث، وتحليل العوامل البشرية، وتقييمات المركبات، وتقييم سلطة التحكم في المركبات وتقنيات إشراك السائق.
وذكر مكتب التحقيقات في العيوب التابع للإدارة الوطنية لسلامة المرور على الطرق السريعة أن هناك ما لا يقل عن 13 حادثاً أسفر عن وفاة شخص واحد أو أكثر، فضلاً عن حوادث أخرى تضمنت إصابات خطيرة، حيث لعب سوء استخدام السائق المتوقع للنظام دوراً واضحاً.
على موقعها على الإنترنت، أجرت منظمة “مشروع الفجر” مقارنة بين المقامر، الذي يصر على أن “نظامه” سليم، وأنصار الذكاء الاصطناعي الذين يطلبون مبالغ ضخمة من المال ومحطات الطاقة لبناء أنظمة ذكاء اصطناعي أكبر.
“إنهم يزعمون أنهم سادة التكنولوجيا التي ستنقل البشرية إلى جنة حيث يحصل الجميع على كل ما يريدون ولا يضطر أحد إلى العمل، أو ربما يبيدون الجميع”، كما قالت المجموعة. “إنهم مجرد وعاظ متجولين في العصر الحديث يبيعون الأدوية الحاصلة على براءات اختراع”.
يصور الإعلان مايكروسوفت وجوجل وOpenAI كمنظمات تبيع زيت الثعبان للذكاء الاصطناعي. يزعم الإعلان أن مايكروسوفت ضخت 13 مليار دولار في ChatGPT التابع لـ OpenAl، ولكن عندما طُلب منها سرد الولايات الأمريكية التي تنتهي بحرف “Y”، كانت ثلاث من الإجابات الخمس التي قدمتها خاطئة.
“يوافق باحثو الذكاء الاصطناعي على أن “الهلوسة” هي أمر أساسي “وقال أوداود: “إننا ندرك أن الذكاء الاصطناعي لا يستطيع تفسير ضعف نماذج اللغة الكبيرة التي لا يمكن حلها، ونعترف بعدم قدرتنا على تفسير سبب اتخاذ الذكاء الاصطناعي لبعض القرارات السيئة. يجب أن نطالب بالاتساق والموثوقية في أنظمتنا الحرجة للسلامة. يجب أن نرفض الذكاء الاصطناعي المهووس ونطبق نفس المعايير الصارمة لأمن البرامج التي نطالب بها للأمن النووي على البنية التحتية الحيوية التي يعتمد عليها المجتمع وملايين الأرواح”.
حذر مشروع الفجر من استخدام البرمجيات التجارية في أي تطبيق قد يؤدي إلى إلحاق الأذى أو قتل شخص. وقال المشروع: “لقد ثبت بالفعل أن هذه الأنظمة غير مناسبة للغرض المقصود منها. فكيف يمكن لخبراء التكنولوجيا أن يزعموا أنهم جاهزون للاستخدام في حلول البنية التحتية القاتلة المحتملة؟”
