يتم نشر أدوات مراقبة الذكاء الاصطناعي الآلي (AI) لتتبع المهاجرين واللاجئين وطالبي اللجوء في الولايات المتحدة ، مما يثير مخاوف خطيرة في حقوق الإنسان ، وفقًا لتقرير صادر عن منظمة العفو الدولية.
العفو تحليل من الوثائق التي تم الحصول عليها من وزارة الأمن الداخلي (DHS) يسلط الضوء على كيف أن نظامين على وجه الخصوص – بابل X ، الذي يوفره شارع بابل ، ونظام التشغيل الهجرة من بالانتير – لديهم قدرات مراقبة ومراقبة جماعية يتم استخدامها لدعم عمليات إنفاذ الهجرة العدوانية للحكومة.
تدعي المنظمة أن الأدوات تتغذى على مبادرة “catch and refoke” التي تعتمد على AI ، والتي تجمع بين مراقبة وسائل التواصل الاجتماعي ، وتتبع حالة التأشيرة وتقييمات التهديدات الآلية للأفراد الأجانب على التأشيرات. لقد كانت الممارسة بالفعل انتقد لانتهاك حقوق التعديل الأول للأشخاص الذين يعيشون في الولايات المتحدة.
يحذر منظمة العفو من أن السرعة والمقياس اللذين يمكن لهذه التقنيات تحديد الناس وتحديد سلوكهم يمكن أن يؤدي إلى إبطال تأشيرة جماعي وترحيل.
وقالت إريكا جيفارا روساس ، مديرة الأبحاث والدعوة والسياسة والحملات في شركة Amnesty International: “من المثير للاهتمام أن حكومة الولايات المتحدة تنشر تقنيات تعمل بالنيابة الغازية في سياق أجندة ترحيل جماعية”.
“إن مبادرة الصيد والإلغاء القسرية ، التي يسهلها تقنيات الذكاء الاصطناعي ، تخاطر بالشحن الفائق التعسفي وغير القانوني ، والاحتجازات ، والترحيل ، وانتهاكات عدد كبير من حقوق الإنسان.”
الأدوات
تم استخدام Babel X ، وهي منصة لتصوير البيانات التي طورتها Babel Street ، من قبل الجمارك وحماية الحدود الأمريكية (CBP) منذ عام 2019 على الأقل. وهي تجمع كميات هائلة من المعلومات الشخصية ، بما في ذلك الأسماء ورسائل البريد الإلكتروني وأرقام الهواتف وعناوين IP وسجلات التوظيف ومعرفات الإعلانات المتنقلة التي تكشف عن مواقع الأجهزة. يمكن للأداة أيضًا مراقبة منشورات الوسائط الاجتماعية.
يقول منظمة العفو أن هذه المعلومات يتم تغذيتها في أنظمة الذكاء الاصطناعى التي تقوم بمسح وسائل التواصل الاجتماعي من أجل المحتوى المرتبط بـ “الإرهاب” ، والذي يمكن استخدامه بعد ذلك لتحديد ما إذا كان ينبغي إلغاء تأشيرة الفرد. بمجرد إلغاء التأشيرة ، يمكن إرسال وكلاء إنفاذ الهجرة والجمارك (ICE) لترحيل الشخص المعني.
تم تقديم نظام تشغيل دورة حياة الهجرة في بالاندير (OS) بعد عقد بقيمة 30 مليون دولار مع ICE في أبريل 2025. يدمج النظام مجموعات البيانات عبر الوكالات ، مما يتيح ICE لإنشاء ملفات الحالات الإلكترونية ، وربط التحقيقات وتتبع المعلومات الشخصية على المهاجرين. تشمل ميزاتها المحدثة تبسيط الاعتقالات بناءً على أولويات الجليد ، والمراقبة في الوقت الفعلي لـ “الإرسالات الذاتية” وتحديد حالات الترحيل ذات الأولوية ، وخاصة شغلات التأشيرات.
وفقًا للعفو ، كان استخدام هذه الأدوات أمرًا بالغ الأهمية في تمكين السلطات الأمريكية من توسيع نطاق الترحيل. ومع ذلك ، تحذر المنظمة من أنها تزيد من خطر إجراءات غير قانونية من خلال الاعتماد على مصادر عامة وخاصة دون إشراف كافٍ.
اتصلت المنظمة غير الحكومية بالشركتين ، مع عدم تقديم بابل أي تعليق ، وذكر بالانتير أن منتجها لم يكن معتادًا على تشغيل جهد الإدارة وإلغاء الجهد.
يشير التقرير أيضًا إلى أن الأنظمة الاحتمالية مثل هذه تعتمد غالبًا على الاستدلالات السلوكية ، والتي يمكن أن تكون تمييزية. على سبيل المثال ، يمكن تصنيف المحتوى المؤيد للفلسطين كذبيًا على أنه معادي للسامية ، مما يضخّم التحيزات الموجودة.
“يتم بناء الخوارزميات اجتماعيًا ، وعالمنا مبني على العنصرية الجهازية والتمييز التاريخي” ، قال بترا مولنار، محام متخصص في الهجرة وحقوق الإنسان ومدير مختبر قانون اللاجئين بجامعة يورك. “ستقوم هذه الأدوات بتكرار التحيزات المتأصلة بالفعل في نظام الهجرة ، ناهيك عن إنشاء أدوات جديدة تستند إلى افتراضات إشكالية للغاية حول السلوك البشري.”
أكد مولنار أن هناك طبقة أساسية من “التمييز المنهجي الذي يقوض كل هذا” بناءً على افتراض أن “الأشخاص الموجودين في هذه الخطوة يمثلون تهديدًا”.
وقالت: “هذا هو في النهاية عن تجاهل من الإنسانية. هذا هو السرد المركزي الذي تدفعه إدارة ترامب”. “كانت هناك زيادة هائلة في نوع التقنيات وآليات المراقبة التي يتم سلاحها بشكل متزايد تجاه الناس على الحركة والمجتمعات المتنقلة.”
تنتقد العفو أيضًا بالانتير وبابل شارع الفشل في تنفيذ كافية العناية الواجبة لحقوق الإنسان، بحجة أن الشركات مسؤولة عن ضمان عدم نشر تقنياتها بطرق تنتهك حقوق الإنسان.
أشار مولنار إلى مبادئ Ruggie ، وهو إطار من الأمم المتحدة يحدد مسؤوليات الشركات في هذا المجال: “هذا معيار مستقل للشركات الخاصة. عليهم الالتزام بالمبادئ القانونية الدولية عندما يتعلق الأمر بتطوير التكنولوجيا ونشرها”.
بالنسبة إلى Molnar ، فإن الحل المثالي سيشمل “حقوق الإنسان القوية التي تحترم الإطار” ، بما في ذلك تقييمات حقوق الإنسان وتأثير البيانات التي أجريت خلال دورة حياة المشروع. لكنها شددت على الحاجة إلى “الوعي العام بما تفعله هذه الشركات” و “سحب من بعض الشركات”.
وقالت: “يجب أن يكون هناك حوار مفتوح بين الأشخاص الذين يطورون التكنولوجيا والمجتمع المتأثر بالفعل ، لأن هناك هذا الجدار الآن بين الأشخاص الذين يطورون التكنولوجيا والأشخاص الذين تؤلمني التكنولوجيا”.
“هذه اتجاهات أراها في جميع أنحاء العالم. إنها ليست فقط في الولايات المتحدة ، لكنني أعتقد أن الولايات المتحدة هي أحدث مظاهر.”
اتصلت الكمبيوتر الأسبوعي بال Palantir و Babel Street حول المخاوف التي أثارها تقرير منظمة العفو ، وطرح عددًا من الأسئلة الإضافية ، بما في ذلك كيفية عمل الشركات على تقليل التحيز الخوارزمي ، والتدابير التي يتخذها لتجنب آثار حقوق الإنسان السلبية مع عمليات نشرها ، وما إذا كانت أي من الشركة قد استشارت مع مجتمعات المهاجرين المتأثرة.
لم يستجب أي من وقت النشر.
أوجه التشابه في المملكة المتحدة
تظهر أنماط مماثلة في المملكة المتحدة. حقق ناشطو حقوق الإنسان في شبكة حقوق المهاجرين (MRN) استخدام الذكاء الاصطناعى على الحدود وأبرز دورها المتزايد في تقنيات المراقبة مثل التعرف على الوجه.
وقال ممثل MRN: “تُستخدم تقنيات الذكاء الاصطناعى تحت ستار الكفاءة. إنها تتيح أن تصبح أنظمة الهجرة الحدودية آلية. إنها تقلل من الحاجة إلى التدخل البشري ، لكي تعتمد الحدود على الدوريات أو الجدران المادية”.
تجادل المنظمة بأن الاعتماد الحكومي على المقاولين الخاصين يخاطر بإنشاء وتفاقم “بيئة معادية رقمية” بالفعل. لكنهم يضيفون ، غالبًا ما يكون من الصعب الحصول على معلومات حول كيفية استخدام هذه التقنيات.
على سبيل المثال ، عند التحقيق نشر أبراج Anduril Maritime Maritime Sentry على الساحل الجنوبي الشرقي لإنجلترا، كان على الباحث صموئيل ستوري تقديم 27 طلبًا منفصلًا من حرية المعلومات (FOI). بينما ادعى وزارة الداخلية أن الأبراج كانت تهدف إلى دعم “حماية البيئة” ، يجادل ستوري بأنه يتم استخدامه للمراقبة من معابر المهاجرين بين المملكة المتحدة وفرنسا.
وقال: “نظام FOI هو امتداد لسرية الدولة. إنها ليست أداة لحرية المعلومات حقًا ، ولكنها تمديد قدرة الدولة على عدم الكشف أو الكشف”.
أثارت MRN أيضًا أسئلة حول وصول البيانات والخصوصية.
“لقد كان من الصعب للغاية معرفة ذلك ، ولكن سيتم تخزين هذه البيانات في مكان ما ، ولدينا شك في أنه سيتم تخزينها في أحد مراكز خدمات الويب Amazon هذه ، لأنها لديها عقود ضخمة مع الحكومة. البيانات الشخصية هي واحدة من الأشياء الأكثر قيمة التي يمكن للشركات أن يكون لها” ، قال الممثل.
وأضافوا أن القلق هو أنه إذا قامت الشركات الخاصة بتخزين البيانات ، فستتمكن هذه الشركات من الوصول إلى هذه البيانات ، وقد تكون كيانات إضافية ، مثل الحكومات الأجنبية ، قادرة تقنيًا على الوصول إليها أيضًا.
التقارير السابقة من قبل الكمبيوتر الأسبوعية حذر من أنه يمكن استخدام أنظمة EVISA الجديدة لتتبع المهاجرين ودعم تطبيق المهاجرين.
