وافقت هيئة تابعة للأمم المتحدة على مشروع قرار بشأن الآثار السلبية لأنظمة الأسلحة التي تعمل بالذكاء الاصطناعي، قائلة إن هناك “حاجة ملحة” لاتخاذ إجراء دولي لمعالجة التحديات والمخاوف التي تمثلها.
والمعروفة أيضًا باسم أنظمة الأسلحة الفتاكة المستقلة (LAWS)، فإن هذه الأنظمة قادرة على تحديد الأهداف وكشفها والاشتباك معها مع تدخل بشري ضئيل أو معدوم.
في بداية نوفمبر 2023، صوتت اللجنة الأولى للأمم المتحدة – التي تتعامل مع القضايا المتعلقة بنزع السلاح والأمن الدولي – بأغلبية ساحقة لصالح القرار، بأغلبية 164 صوتًا؛ خمسة ضد؛ وامتناع ثمانية عن التصويت.
بقيادة النمسا دقة وأشار إلى أن رعاة المؤتمر “يدركون التحديات والمخاوف الخطيرة التي تشكلها التطبيقات التكنولوجية الجديدة [represent] في المجال العسكري”، وأنهم “قلقون بشأن العواقب السلبية المحتملة… [of LAWS] على الأمن العالمي والاستقرار الإقليمي والدولي، بما في ذلك خطر ظهور سباق تسلح، وخفض عتبة الصراع وانتشار الأسلحة.
ويطلب مشروع القرار الذي تم تمريره الآن على وجه التحديد أن يسعى الأمين العام للأمم المتحدة أنطونيو غوتيريش للحصول على آراء الدول الأعضاء بشأن أنظمة الأسلحة الفتاكة المستقلة، بالإضافة إلى وجهات نظرهم حول “طرق مواجهة التحديات والمخاوف ذات الصلة التي تثيرها الجوانب الإنسانية والقانونية والأمنية والتكنولوجية والأخلاقية”. وجهات النظر ودور البشر في استخدام القوة “.
ولابد أن تنعكس وجهات النظر هذه في “تقرير موضوعي” يعكس النطاق الكامل لوجهات النظر المقدمة، حتى يتسنى للدول الأعضاء استخدامه كنقطة للمناقشة في الدورة القادمة للجمعية العامة ـ الهيئة الرئيسية للتداول وصنع السياسات في الأمم المتحدة.
وكجزء من عملية جمع الرأي هذه، تطلب اللجنة الأولى أيضًا من الأمين العام أن يستطلع آراء مختلف المنظمات الدولية والإقليمية، ومجموعات المجتمع المدني، وأعضاء المجتمع العلمي، وممثلي الصناعة، فضلاً عن اللجنة الدولية للصليب الأحمر (اللجنة الدولية للصليب الأحمر) على وجه التحديد.
وينص القرار أيضًا على أن اللجنة الأولى ستدرج جلسة حول أنظمة الأسلحة الفتاكة المستقلة في جدول أعمالها للدورة القادمة، بدءًا من عام 2024. وكمشروع قرار، سيُحال الآن إلى الجمعية العامة للنظر فيه واتخاذ إجراء بشأنه.
في حين أن قرارات الأمم المتحدة هي تعبيرات رسمية عن آراء أو إرادة هيئات الأمم المتحدة التي أنشأتها، وتحدد الإجراءات التي سيتم اتخاذها إذا تم اعتمادها، إلا أن القرارات الصادرة عن مجلس الأمن التابع للأمم المتحدة هي وحدها الملزمة، حيث يتم استخدام معظمها كأدوات لبناء توافق الآراء. .
في 5 تشرين الأول/أكتوبر 2023، التقى غوتيريس ورئيسة اللجنة الدولية ميريانا سبولجاريك أصدروا نداء مشتركا حث قادة العالم على إطلاق مفاوضات بشأن صك جديد ملزم قانونًا لوضع حظر وقيود واضحة على أنظمة الأسلحة الفتاكة المستقلة، واختتام هذه المفاوضات بحلول عام 2026.
وقالوا: “في المشهد الأمني الحالي، فإن وضع خطوط حمراء دولية واضحة سيعود بالنفع على جميع الدول”.
في مشاركة مدونة وفيما يتعلق بالقرار، قالت حملة المملكة المتحدة لوقف الروبوتات القاتلة – وهي جزء من تحالف دولي من المنظمات غير الحكومية التي تنظم لوضع قيود على أنظمة الأسلحة الفتاكة المستقلة – إنه على الرغم من أنها لا تدعو إلى إجراء مفاوضات، إلا أنها “خطوة مهمة إلى الأمام” في إنشاء إطار قانوني يضمن السيطرة البشرية ذات مغزى على القوة.
وقال كريس كول، المدير التنفيذي لمنظمة Drone Wars، وهي منظمة عضو في الحملة: “يعد إقرار هذا القرار خطوة مهمة إلى الأمام في حملة حظر Killer Robots لأنه يفوض الأمين العام للحصول على آراء الدول وغيرها. في الطريق إلى الأمام. من المهم حقًا الآن أن نضمن أن يتم سماع مخاوف الجمهور بشأن التأثيرات الإنسانية والأخلاقية والأمنية ونقلها من قبل الحكومة البريطانية، وليس فقط أصوات أولئك الذين لديهم مصلحة راسخة في تطوير التكنولوجيا.
مواقف الدول الأعضاء
وفقا ل تقرير اجتماع الأمم المتحدة تفصيلاً لجلسة اللجنة الأولىوالحكومات التي صوتت ضد القرار هي بيلاروسيا والهند ومالي والنيجر وروسيا، في حين أن الدول التي امتنعت عن التصويت هي الصين وجمهورية كوريا الديمقراطية الشعبية وإيران وإسرائيل والمملكة العربية السعودية وسوريا وتركيا والإمارات العربية المتحدة.
كما تناول التقرير نفسه مواقف مختلف الدول الأعضاء بشأن القرار. وقال ممثل مصر، على سبيل المثال، إن الخوارزميات يجب ألا تكون أبدًا في السيطرة الكاملة على القرارات التي تنطوي على قتل أو إيذاء البشر، ويجب الحفاظ على مبادئ المسؤولية الإنسانية والمساءلة عند استخدام القوة المميتة، بغض النظر عن نوع نظام الأسلحة المستخدم. .
وأضافوا أنه حتى لو تمكنت الخوارزمية من تحديد ما هو قانوني بموجب القانون الإنساني الدولي، فلن تتمكن أبدًا من تحديد ما هو أخلاقي.
وبينما صوتت روسيا والولايات المتحدة في اتجاهين مختلفين، أكد ممثلو البلدين أنهما لا يؤيدان إنشاء أي عمليات موازية من شأنها أن تقوض عمل اتفاقية الأسلحة التقليدية المعينة (CCW)، التي دخلت حيز التنفيذ منذ عام 1983 و يسعى إلى حظر أو تقييد استخدام الأسلحة التي تعتبر مفرطة الضرر أو عشوائية الأثر.
وبالمثل، دافعت بلدان أخرى – بما في ذلك الصين وكوريا الجنوبية وجنوب أفريقيا وأستراليا وباكستان – عن اتفاقية الأسلحة التقليدية باعتبارها المنتدى الأنسب للتعامل مع القضايا المتعلقة بأنظمة الأسلحة الفتاكة المستقلة، على الرغم من أن ممثل مصر أشار إلى أن التقدم من خلال هذا الطريق كان ضئيلاً وغير ملموس. ولم يتم التوصل إلى النتائج بعد.
وقالوا إن ذلك “يرجع إلى استمرار الاعتقاد المضلل لدى بعض الدول بإمكانية الحفاظ على الهيمنة المطلقة في هذه المجالات”.
وقال ممثل الأرجنتين إن وفده صوت لصالح القرار لإبراز هذه القضية وتجديد الزخم للمناقشات الحالية، وشدد كذلك على أهمية الاستماع إلى الدول والأطراف المهتمة التي لا تشارك عادة في مناقشات اتفاقية الأسلحة التقليدية (كما فعلت ممثلين من اندونيسيا ومصر).
كما سلطوا الضوء على ما قامت به الأرجنتين، إلى جانب دول أخرى قدمت صكا ملزما قانونا إلى اتفاقية الأسلحة التقليدية من شأنه أن ينشئ بروتوكولاً إضافياً لوضع الحظر واللوائح المتعلقة بالتكنولوجيات الناشئة المتعلقة بأنظمة الأسلحة الفتاكة المستقلة.
