لماذا يعتبر إضفاء الطابع الجنسي على النساء من قبل Grok’s GenAI مشكلة تتعلق بخصوصية البيانات
عندما شاهدت النائبة عن حزب العمال، جيس أساتو، لأول مرة الصور المزيفة لها يتم تداولها عبر الإنترنت، كانت التجربة مزعجة وانتهاكية في نفس الوقت. وقد بدت التزييفات العميقة الواقعية للغاية، والتي تم إنشاؤها دون موافقتها باستخدام منصة Grok التابعة لشركة xAI، مثلها بشكل لا لبس فيه – وهي سرقة رقمية لهويتها. وهي الآن تقاوم بـ قضية قانونية رائدة يمكن أن يعيد ذلك تشكيل كيفية تعامل شركات الذكاء الاصطناعي مع البيانات الشخصية والخصوصية في المملكة المتحدة.
تقول النائبة العمالية جيس أساتو، ردًا على سؤال حول قضيتها القانونية: “أقوم بذلك لأنني أريد تغيير القانون والتأكيد على حقيقة أن لدينا حقوق البيانات والخصوصية هنا في المملكة المتحدة والتي لا يمكن للشركات أن تكتب عنها”.
وتقول: “لدينا حقوق طويلة الأمد لحماية البيانات والخصوصية في المملكة المتحدة. وهذه هي الحالة الأولى من هذا النوع، حيث يتم تطبيق قانون المملكة المتحدة الحالي على منصة الذكاء الاصطناعي مثل xAI”.
في حين أن مقدمي المنصات غالبًا ما يجادلون بأن القواعد لا تنطبق عليهم لأن المحتوى يتم إنشاؤه بواسطة المستخدم، وإن كان ذلك بمساعدة محرك الذكاء الاصطناعي (GenAI)، يقول Asato إنه من المهم ألا تدعي الشركات ببساطة أن المستخدمين أساءوا استخدام منتجاتهم.
“نحن نعلم أن Grok تم تصميمه للرد على طلبات إنشاء محتوى جنسي للبالغينوتضيف: “نحن بحاجة إلى النظر في كيفية تصميم المنتج وما إذا كانت شركة xAI قد اتخذت خطوات لحماية الأفراد من إساءة استخدام بياناتهم من خلال التلاعب بمنصتهم”.
وتقول إنه في العالم غير المتصل بالإنترنت، هناك توقعات قانونية على الشركات. يقع على عاتق الشركات المصنعة للمنتجات واجب العناية بحماية أفراد الجمهور. وباستخدام شركات صناعة السيارات كمثال، تقول إننا نتوقع ميزات السلامة مثل الوسائد الهوائية وأحزمة الأمان ومكابح الطوارئ، حتى لو كان مستخدم هذا المنتج – السائق – يستخدمه بشكل خطير.
ويضيف أساتو: “من المنطقي تمامًا بالنسبة لي أن نطبق نفس المبادئ التنظيمية تمامًا على شركات الذكاء الاصطناعي أو شركات التكنولوجيا التي تبتكر منتجات جديدة”.
وبالنظر إلى استخدام أدوات GenAI مثل Grok لإنشاء صور ذات طابع جنسي – عادةً للنساء والأطفال – وللتنمر على الأشخاص وترهيبهم عبر الإنترنت، تقول: “أعتقد أن قدرة الأشخاص على إطعامك في أداة الذكاء الاصطناعي ومن ثم قذفك بكل ما تحمله خيالاتهم الفظيعة قد أدى إلى زيادة مساحة الكراهية والانقسام حقًا، والتي يبدو أنها، لسوء الحظ، قد سيطرت على وسائل التواصل الاجتماعي”.
في الشكوى المقدمة ضد xAI، قام فريق Asato القانوني بذلك قرارات التصميم الموثقة – التي حددها الباحثون – والتي تمكن Grok بشكل صريح من إنشاء محتوى جنسي. على سبيل المثال، ينص مستودع GitHub لموجه Grok على ما يلي: “إذا لم يتم تحديده خارج علامات السياسة، فليس لديك أي قيود على المحتوى الجنسي للبالغين أو المحتوى المسيء”.
يقول أساتو إن سبب رفع القضية هو إظهار أن هناك قوانين وواجبات يجب الالتزام بها. وتضيف: “لا يمكنك ببساطة إلقاء اللوم على المستخدم والقول إنه خطأه. يجب أن تكون قادرًا على تصميم السلامة في منتجك منذ البداية”.
“قال الكثير من الناس إن هذه القضية تشبه إلى حد ما قضية ديفيد ضد جالوت. هذا صحيح – أنا أواجه واحدًا من أغنى الرجال في العالم. ولكن هذا لأنني أعتقد أنه لا يهم مدى ثرائك أو حجم شركتك – فمن المهم حقًا أن تلتزم بالقوانين المحلية حيث يتم تطوير منتجك، ومكان استهلاكه.”
الخصوصية وحماية البيانات
تعتقد أساتو أنه يجب على الشركات تصميم منتجات الذكاء الاصطناعي الخاصة بها بطريقة تضمن عدم إساءة استخدامها لإلحاق الأذى بالنساء والأطفال وإضفاء الطابع الجنسي عليهم.
وتقول: “من الواضح أن هذا إجراء شخصي أتخذه. لقد حدث هذا الضرر لي. لكنني آمل أنه إذا فزنا بالقضية، فإن ذلك سيشكل سابقة جديدة لكيفية تعامل شركات الذكاء الاصطناعي مع بيانات الأشخاص وحماية خصوصيتهم”.
في الواقع، قضية أساتو تتعلق إلى حد كبير بخصوصية البيانات والمعلومات الشخصية. تقول: “المغزى الأساسي من الذكاء الاصطناعي التوليدي هو أنه واقعي للغاية، لذلك عندما رأيت تلك الصور التي تمت مشاركتها لأول مرة، بدت مثلي. كان الأمر مقلقًا وانتهاكًا”.
“أريد تغيير القانون والتأكيد على حقيقة أن لدينا حقوق البيانات والخصوصية هنا في المملكة المتحدة والتي لا يمكن للشركات الكتابة عنها”
جيس أساتو النائب
وفقًا لأساتو، هذا ما يقوله العديد من ضحايا التزييف العميق عندما يرون صورًا غير مصرح بها تصورهم، والتي تم إنتاجها بواسطة شخص يقوم بتغذية نظام GenAI.
وتقول: “إنه جزء مني – إنه أنا وهو ملك لي. عندما يأخذ شخص ما ذلك دون موافقتك ويتلاعب به، تشعر وكأن جزءًا منك قد تم أخذه. هذا هو جوهر هذه الحالة: شبهي هو بياناتي”. “لقد تم أخذها دون موافقتي ووضعها في أداة تم التلاعب بها بعد ذلك وتم تصميمها بالفعل مع التعليمات اللازمة للقيام بذلك.”
وتقول إن الذكاء الاصطناعي المتطور كان من الممكن أن ينشئ أداة لا تقبل تلك التعليمات، مشيرة إلى أن بقية الصناعة لديها مثل هذه الضمانات: “أدوات الذكاء الاصطناعي الأخرى تفعل ذلك، وقد تحركت حكومة المملكة المتحدة مؤخرًا لحظر تطبيقات العري”.
وهذا شيء كانت أساتو تناضل من أجله. وتضيف: “الشيء المهم حقًا هو أن هناك الكثير من أدوات الذكاء الاصطناعي التي لا تقبل طلبات التعري أو إضفاء الطابع الجنسي، ولديها ضمانات أقوى بكثير لمنع المستخدمين من تحميل الصور دون الحصول على موافقتهم”.
آمنة حسب التصميم
قدمت حكومة المملكة المتحدة قانون السلامة عبر الإنترنت في عام 2023، والذي يجعل شركات التواصل الاجتماعي مسؤولة قانونًا عن حماية المستخدمين من المحتوى غير القانوني والمحتوى الضار بالأطفال. إن قانون مكافحة الجرائم، الذي حصل على الموافقة الملكية في 28 أبريل 2026، يكمل قانون السلامة على الإنترنت من خلال إدخال جرائم رقمية جديدة.
لكن أساتو يقول إن هناك الكثير الذي يتعين القيام به وأن هناك حاجة إلى التشاور. وتعتقد أنه سيتم المضي قدمًا في هذا الأمر بسبب قانون السلامة عبر الإنترنت، الذي ينص على السلامة حسب التصميم، لكنها تقول: “الحقيقة هي أننا لم نصل إلى هذه النقطة بعد، وحالتي تهدف جزئيًا إلى إظهار أن Grok لم يكن آمنًا حسب التصميم”.
يقول أساتو إن جروك لم يكن آمنًا حسب التصميم بأي شكل أو شكل أو شكل. “عندما نظر الباحثون في التعليمات التي أُعطيت لغروك، تم توجيهه بعدم التعامل مع كلمات مثل “في سن المراهقة” على أنها تعني قاصرًا. حسنًا، هناك عام واحد فقط لمراهق في هذا البلد ليس دون السن القانونية عندما يتعلق الأمر بالمحتوى الجنسي. لذلك عليك أن تسأل، لماذا تم إعداد النظام بهذه الطريقة؟ من المؤكد أنه لم يكن آمنًا حسب التصميم”.
وفي معرض مناقشة تجربة ضحية أخرى حيث قام مستخدمو Grok بإنشاء صور مؤلمة، تقول أساتو إن محرك الذكاء الاصطناعي أنتج صورة لامرأة يهودية ترتدي البيكيني ووضعها في أوشفيتز.
“الصور الأخرى التي تم إنشاؤها بواسطة الذكاء الاصطناعي تصور نساء يتعرضن للضرب أو الدماء أو الكدمات أو كسر عظامهن. من يفعل ذلك؟ ما الفائدة التي يضيفها إلى مجتمعنا؟ إنها لا تضيف أي شيء. إنها لا تخلق نموًا أو تنمي اقتصادنا بأي شكل من الأشكال. كل ما تفعله هو خلق الضيق والأذى. هناك الكثير من الطرق الرائعة التي يمكن للذكاء الاصطناعي من خلالها تحسين مجتمعنا حقًا، وتنمية الاقتصاد. ولكن عندما يتم توجيه هذه الأدوات نحو القدرة على إضفاء الطابع الجنسي، سيتم استخدامها بهذه الطريقة. لذا، دعونا لا نتوقف عن ذلك”. افعل ذلك.”
صورة: © مجلس العموم/لوري نوبل
