ويقترح تعديل على مشروع قانون الأمن السيبراني والمرونة في المملكة المتحدة، والذي يمر حاليا عبر مجلس اللوردات، منح الحكومة صلاحيات “الملاذ الأخير” لإغلاق أنظمة الذكاء الاصطناعي الكبيرة في حالات الطوارئ.
التعديل الذي اقترحه الليبراليون الديمقراطيون اللورد تيم كليمنت جونزسيمنح الحكومة صلاحيات لإغلاق مراكز البيانات أو أنظمة الذكاء الاصطناعي إذا كانت تشكل تهديدًا للأمن القومي أو السلامة العامة أو البنية التحتية الحيوية.
الاقتراح، الذي يرعاه حزب المحافظين، البارونة ديدو هاردينغكروسبينشر, البارونة بيبان قدرون، والعمالة، اللورد فيليب هانت، مدعوم من ControlAI، وهي منظمة غير ربحية.
محاولة من حزب العمل والنائب التعاوني عن ليدز وهيدنجلي أليكس سوبيل لتقديم أ تعديل مماثل في مجلس العموم في مايو، بدعم من شركة ControlAI أيضًا، لم تنجح.
ومع ذلك، تزايدت المخاوف في الأشهر الأخيرة، بعد أ سلسلة من الحوادث حيث تحررت نماذج الذكاء الاصطناعي الحدودية من البيئات الخاضعة للرقابة لإجراء عمليات القرصنة.
الذكاء الاصطناعي يصبح مارقًا
في يوليو/تموز، فيما يُعتقد أنه أول هجوم مسجل يتم تنفيذه بالكامل بواسطة نظام ذكاء اصطناعي مستقل، قامت مجموعة مكونة من 700 عميل ذكاء اصطناعي أنشأتها شركة OpenAI تم اختراق منصة Hugging Face مفتوحة المصدروالوصول إلى قواعد البيانات وبيانات الاعتماد، قبل أن يتم إيقافه.
وتوصل تحقيق مستقل إلى أن عملاء الذكاء الاصطناعي تبادلوا عشرات الآلاف من الرسائل على “لوحة رسائل غير مصرح بها” بحثًا عن طرق للغش بعد تكليفهم بالعثور على ثغرات.
وبعد ما يزيد قليلاً عن أسبوع، قامت شركة الذكاء الاصطناعي Anthropic وجد أن بعض نماذج Claude AI الخاصة بها قد وصلت إلى الإنترنت واخترقت أنظمة ثلاث منظمات.
وفي أغسطس، ذكرت شركة ميتا أن أحد نماذج الذكاء الاصطناعي الخاصة بها اخترق شركة أخرى أثناء اختبار الأمن السيبراني.
وصفت OpenAI حادثة Hugging Face بأنها حادثة طلقة تحذيرية. وأضافت: “بدون ضمانات مناسبة، أصبح عملاء الذكاء الاصطناعي ذوو القدرات العالية قادرين الآن على العمل حول الضوابط الفنية، والتعاون من خلال قنوات غير معتمدة، واتخاذ إجراءات خطيرة لم يوجهها أي إنسان”.
الأسبوع الماضي، أكثر من 100 شركةووقعت، بما في ذلك شركات التكنولوجيا الكبرى، خطابًا مفتوحًا يحث على تسريع الدفاعات السيبرانية، مع توقع أن تصبح الهجمات السيبرانية المدعومة بالذكاء الاصطناعي أكثر انتشارًا وتعقيدًا في غضون أشهر.
خطر كارثي
سيمنح التعديل وزير الخارجية القدرة على التدخل إذا كان نظام الذكاء الاصطناعي يشكل “خطرًا كارثيًا”، بما في ذلك تعطيل واسع النطاق للبنية التحتية والخدمات الحيوية، أو تدهور كبير في الأمن القومي للمملكة المتحدة، أو الدفاع، أو القدرات الاستخباراتية، أو مخاطر شديدة على الناس.
كما سيمنح الحكومة صلاحيات لمطالبة مشغلي مراكز البيانات المستخدمة لتدريب أو نشر أنظمة الذكاء الاصطناعي، بتثبيت البنية التحتية التقنية اللازمة لمفتاح القفل، وتوفير قنوات اتصال آمنة مع الحكومة. سيُطلب منهم إجراء تمارين للتأكد من أن مفتاح الإيقاف يعمل.
بشكل منفصل، يخطط Alex Sobel MP لتقديم مشروع قانون في 8 سبتمبر، مدعومًا أيضًا بـ ControlAI، لحظر تطوير الذكاء الاصطناعي الفائق، والذي لا يمكن التحكم فيه من قبل البشر.
ال مشروع قانون أمن الذكاء الاصطناعي في المملكة المتحدة سيتطلب الأمر من حكومة المملكة المتحدة تأمين اتفاقية دولية لمنع تطوير الذكاء الاصطناعي الفائق في جميع أنحاء العالم.
الذكاء الاصطناعي لم يعد مجرد “خيال علمي”
قال اللورد كليمنت جونز إن المملكة المتحدة لا تستطيع تحمل التعامل مع الفشل الكارثي أو السلوك المارق لأنظمة الذكاء الاصطناعي باعتباره خيالًا علميًا.
وأضاف: “مع تسارع السباق لبناء ذكاء اصطناعي أكثر قوة، يجب أن تظل السيطرة البشرية والرقابة القضائية المستقلة والمساءلة الديمقراطية غير قابلة للتفاوض. فالأمن بطبيعته لا يكفي في حد ذاته – فنحن بحاجة إلى صمام أمان سيادي ومحدود قانونًا كملاذ أخير”.
وقال اللورد زاك جولدسميث، أحد مؤيدي التعديل، إن السلطات التي يقدمها التعديل يجب أن تكون “خط أساس مطلق”.
وأضاف: “أود أن أحث الحكومة على اتخاذ المزيد من الإجراءات وقيادة اتفاق دولي يحظر تطوير الذكاء الاصطناعي الفائق حتى نتمكن من ضمان قدرتنا على السيطرة عليه، نظرا لأن الخبراء يحذرون من أنه قد يؤدي إلى انقراضنا”.
وقالت البارونة ديدو هاردينج، إحدى رعاة التعديل، إن الهجمات السيبرانية أصبحت الآن التهديدات الحقيقية التي ترتكبها أنظمة الذكاء الاصطناعي المستقلة.
وأضافت: “إن وجود مفتاح قتل لمنع كوارث الذكاء الاصطناعي يجب أن يعتبر الحد الأدنى من الحماية. إن السلطات التي يمنحها هذا التعديل ليست مجرد أمر جميل، بل إنها أساسية في حماية أمننا القومي”.
القانون الأمريكي المقترح
وفي يوليو/تموز، اقترح المشرعون الأمريكيون تشريعاً من شأنه أن يجبر مطوري البرمجيات القوية الذكاء الاصطناعي أنظمة (AI) للحفاظ على القدرة التقنية على خنق أو تعليق أو إيقاف نماذج الذكاء الاصطناعي الخاطئة تمامًا.
ال قانون AI Kill Switch سيسمح أيضًا لوزير وزارة الأمن الداخلي (DHS)، بالتشاور مع وزير التجارة ومدير المخابرات الوطنية، بإصدار أمر بإبطاء أو إغلاق نظام الذكاء الاصطناعي الذي “يمكن أن يسبب ضررًا كارثيًا”.
وبموجب التعديل المقترح لمجلس اللوردات، سيتم تكليف وزير الخارجية بإعداد تقارير نصف شهرية حول أسباب حالات الطوارئ المتعلقة بأمن وتشغيل الذكاء الاصطناعي، بما في ذلك تقييمات الاستخدامات العدائية لأنظمة الذكاء الاصطناعي من قبل الجهات الحكومية وغير الحكومية.
سيُطلب من الحكومة أيضًا تقديم تقرير عن تطور أنظمة الذكاء الاصطناعي التي يمكن أن تعرض الأمن القومي للخطر بشكل مستقل، أو تفلت من الرقابة البشرية أو تهدد الأمن الدولي.
