لم تعد لوائح خصوصية البيانات – مثل سياسة الناتج المحلي الإجمالي للاتحاد الأوروبي والقوانين الفيدرالية الأمريكية مثل HIPAA – كافية لحماية البيانات الشخصية في عصر الذكاء الاصطناعي.
جارتنر وتتوقع أنه بحلول عام 2029، ستنشأ معظم حوادث الخصوصية من استنتاجات الذكاء الاصطناعي حول الأفراد، بدلاً من التعرض المباشر لمعلومات التعريف الشخصية، مثل الأسماء والعناوين وأرقام الضمان الاجتماعي.
وقال بارت ويليمسن، نائب الرئيس في شركة جارتنر، إن قدرة الذكاء الاصطناعي على تنفيذ التعرف على الأنماط بسرعة تعني أن الجهات الفاعلة السيئة لم تعد بحاجة إلى سرقة أو شراء بيانات الاعتماد لاستنتاج معلومات حساسة عن الأشخاص. لا يوفر إخفاء هوية البيانات في حد ذاته حماية كافية لأن خوارزميات الذكاء الاصطناعي يمكنها إعادة تحديد هوية الأشخاص أو استنتاج السمات الحساسة من مجموعات البيانات مجهولة المصدر.
“إخفاء الهوية الحقيقي غير موجود، باستثناء الحذف الفعلي [of data]. وقال ويليمسن: “إن هجوم الاستدلال قوي للغاية لأنه يحدث على كل شيء، وليس فقط المستودعات التي يمكن التعرف عليها بشكل مباشر”.
ومع تحسن الذكاء الاصطناعي والتعلم الآلي، يمكن لهذه التقنيات استنتاج سمات شخصية حساسة – مثل الظروف الصحية أو الأنماط السلوكية – من بيانات مجهولة المصدر أو مجمعة.
وأوضح ويليمسن: “يمكن للنماذج الحديثة إجراء هندسة عكسية للهويات الفردية من خلال استغلال الأنماط السلوكية ومقاييس الاستخدام وسجلات المعاملات المجمعة (على سبيل المثال، يمكن للذكاء الاصطناعي التعرف على الأفراد من بيانات السفر، ووسائل التواصل الاجتماعي، والأشعة السينية، وتخطيط القلب، وأجهزة التصوير بالرنين المغناطيسي، وحتى المشية أو في الأساس أي مجموعة من حوالي ثلاث معاملات).”
وقال ويليمسن إنه حتى عندما يهلوس الذكاء الاصطناعي أو ينشئ بيانات اصطناعية عن الأفراد، فإن هذه البيانات غير الصحيحة يمكن أن تسبب مشاكل حقيقية.
يمكن أن يؤدي تحيز الذكاء الاصطناعي والهلوسة إلى السجن غير المشروع و أخطاء كبيرة في البحث القانوني، على سبيل المثال.
وتمتد الآثار المترتبة على ذلك إلى ما هو أبعد من انتهاكات الخصوصية، وفقًا لأندرو أوباديارو، كبير مسؤولي أمن المعلومات في شركة كوبالت للأمن السيبراني.
وقال أوباديارو: “إن الأصل الحقيقي هو البصيرة”. “يمكن للذكاء الاصطناعي أن يستنتج صحة شخص ما أو وضعه المالي أو نفوذه داخل المنظمة أو احتمالية الرد على رسالة بريد إلكتروني تصيدية دون الوصول إلى السجل الطبي أو ملف الموارد البشرية.”
وقال أوباديارو إن البيانات التي لا تبدو حساسة – مثل أدلة الموظفين، أو علاقات الموردين، أو نشاط وسائل التواصل الاجتماعي، أو تفاعلات العملاء – يمكن أن تصبح ذات قيمة عندما يربط الذكاء الاصطناعي تلك الأجزاء. يمكن للذكاء الاصطناعي استخدامها لاستنتاج التسلسل الإداري، أو إدارات النظام، أو العلاقات بين المديرين التنفيذيين، أو سلطة الإنفاق، أو المهندس المسؤول عن نظام الإنتاج المهم. يمكن للمهاجمين بعد ذلك استخدامها لجعل هجماتهم أكثر دقة.
وأوضح: “النتيجة هي حملات تصيد أكثر إقناعًا بشكل كبير، وتسوية أسرع للبريد الإلكتروني التجاري، وابتزاز أكثر استهدافًا، وعمليات تطفل أكثر كفاءة لأن المهاجم يعرف بالفعل من يستهدف قبل إرسال البريد الإلكتروني الأول”.
وأضاف أن المنظمات بحاجة إلى البدء في النظر ليس فقط في البيانات التي تجمعها ولكن “ما تكشفه بياناتها عندما يتم دمجها وربطها وتفسيرها بواسطة أنظمة الذكاء الاصطناعي ذات القدرة المتزايدة”.
وقال ويليمسن إن لوائح الخصوصية، التي ركزت تاريخيًا على البيانات التي يمكن تحديدها بشكل مباشر، يجب أن تمتد أيضًا إلى “المحتوى الذي يمكن تحديده أو إعادة تحديده بشكل غير مباشر” مع تقدم تقنيات الذكاء الاصطناعي.
وقال ويليمسن: “إن الجمع بين البيانات المسجلة في أي مكان، والوصول إليها في جميع أنحاء العالم (سواء عن طريق الصدفة أو الاختراق العدائي)، والقدرات في متناول أي شخص يريد الوصول إلى البيانات من خلال تقنيات الذكاء الاصطناعي التحليلية والتوليدية الحديثة، هو ما يجعل الأمر مختلفًا اليوم. بالإضافة إلى ذلك، بالكاد قامت المؤسسات بتنظيف البيانات التي لم تعد بحاجة إليها”.
وقال ويليمسن إن خطر إعادة تحديد البيانات يسبق طفرة الذكاء الاصطناعي اليوم، لكن الذكاء الاصطناعي يسرع العملية بشكل كبير. وأشار إلى أ دراسة 2019 بواسطة علماء البيانات لوك روشيه، وجوليان إم هندريكس، وإيف ألكسندر دي مونتجوي، الذين طوروا نموذجًا رسوميًا توليديًا لإعادة تحديد الأفراد. وكتبوا: “باستخدام نموذجنا، نجد أن 99.98% من الأمريكيين سيتم إعادة تعريفهم بشكل صحيح في أي مجموعة بيانات باستخدام 15 سمة ديموغرافية”.
يعمل الذكاء الاصطناعي على تسريع التهديد بإعادة تحديد الهوية
ما تغير مع تقدم الذكاء الاصطناعي هو أن المهاجمين الآن “يتمتعون بالسرعة إلى جانبهم”، كما وافق أوباديارو – ونطاق العمل. “قبل خمس سنوات، لم يكن بناء ملفات تفصيلية لآلاف الضحايا المحتملين أمراً مجدياً اقتصادياً. أما اليوم فقد أصبح كذلك.”
وأشار ويلمسن إلى دراسة أجراها المهندسون سيمون ليرمان ودانييل باليكا وجوشوا سوانسون ومايكل إيرني ونيكولاس كارليني وفلوريان ترامير في عام 2026. وجد المؤلفون أن الحاصلين على شهادة الماجستير في القانون يمكنهم إعادة التعرف على الأفراد “باستخدام ملفات تعريف ومحادثات بأسماء مستعارة على الإنترنت فقط، وهو ما يطابق ما قد يستغرق ساعات بالنسبة لمحقق بشري متخصص”.
على وجه الخصوص، أوضح المؤلفون أنه “في كل إعداد، تتفوق الأساليب المستندة إلى ماجستير إدارة الأعمال بشكل كبير على خطوط الأساس الكلاسيكية، وتحقق ما يصل إلى 68٪ من الدقة بنسبة 90٪ مقارنة بما يقرب من 0٪ لأفضل طريقة غير ماجستير إدارة الأعمال. تظهر نتائجنا أن الغموض العملي الذي يحمي المستخدمين بأسماء مستعارة عبر الإنترنت لم يعد قائمًا وأن نماذج التهديد للخصوصية عبر الإنترنت بحاجة إلى إعادة النظر. “
وقال أوباديارو: “إن أفضل هجمات الاستدلال لا تبدو وكأنها هجمات على الإطلاق”. “قد يبدأ الخصم بـ LinkedIn، والملفات العامة، ووسائل التواصل الاجتماعي، وبيانات الاعتماد المخترقة، ونشاط GitHub، وقواعد البيانات التسويقية المسربة. ولا تعد أي من مجموعات البيانات هذه ذات قيمة خاصة في حد ذاتها. فالذكاء الاصطناعي يقوم بالجزء الصعب.”
وللحد من مخاطر الخصوصية القائمة على الاستدلال، قال ويليامسن إنه يجب على مسؤولي أمن المعلومات أن يبدأوا بإدارة البيانات طوال دورة حياتها والتخلص من البيانات بمجرد أنها لم تعد توفر قيمة الأعمال التي من شأنها أن تبرر تكلفة ومخاطر حمايتها.
“للبيانات دورة حياة، ونحن نعلم أن الأبدية هي دورة حياة غير حكيمة. لذلك، نصح ويليمسن بتشفير نهايتها”.
خطوات معالجة المخاطر القائمة على الاستدلال: جارتنر
وقال إنه بالنسبة لرؤساء تكنولوجيا المعلومات، فإن الحماية من التهديدات القائمة على استنتاجات الذكاء الاصطناعي تبدأ بحوكمة الذكاء الاصطناعي. فيما يلي نصيحة ويليمسن بشأن حماية المؤسسات من المخاطر القائمة على استنتاجات الذكاء الاصطناعي:
-
حوكمة الذكاء الاصطناعي: قم بتعيين حواجز حماية للخصوصية حسب التصميم في تطوير الذكاء الاصطناعي وتقييم مخاطر التحيز أو الاستدلال بانتظام.
-
اعتماد تقنيات تعزيز الخصوصية (PETs): وقال ويليمسن إن الحيوانات الأليفة هي “صندوق أدوات تكنولوجية”. تعمل هذه التقنيات على حماية البيانات الشخصية من خلال معالجتها في حالة محمية أو “الحوسبة السرية”. تتضمن PETs الخصوصية التفاضلية، والبيانات الاصطناعية، والتعلم الآلي المراعي للخصوصية، والتشفير المتماثل، الذي يجري حسابات على البيانات المشفرة دون الحاجة إلى فك تشفيرها أولاً. يمكن أن تقلل أجهزة PET من فرصة قيام الذكاء الاصطناعي بإعادة التعرف على الأفراد حتى لو قام الذكاء الاصطناعي بتحليل البيانات.
-
ضوابط دورة الحياة: يجب أن يقتصر جمع البيانات على احتياجات العمل الأساسية وأن يشمل التحكم في الوصول. يجب حذف البيانات بمجرد وصولها إلى نهاية الفائدة و/أو تصبح حمايتها باهظة التكلفة. عندما يتعلق الأمر بإدارة البيانات، ينصح ويليمسن “بالتنظيف المستمر والتنظيف الصارم للغاية”.
-
تعزيز الأمن السيبراني للتهديدات القائمة على الذكاء الاصطناعي: يجب على المؤسسات التوسع في أساليبها التقليدية للأمن السيبراني من خلال إعطاء الأولوية لقدرات المراقبة المتقدمة واكتشاف الحالات الشاذة وتخطيط السيناريوهات لتحديد التهديدات القائمة على الاستدلال.
-
الشفافية والرقابة البشرية: قم بتوثيق الحالات التي يكون فيها استنتاج الذكاء الاصطناعي مناسبًا داخل شبكة المؤسسة، وقم بمراجعة أنظمة الذكاء الاصطناعي بانتظام، والحفاظ على جهود الإنسان في الحلقة للتحقق من صحة الاستدلالات التي تولدها الذكاء الاصطناعي قبل أن تتخذ التكنولوجيا إجراءً بشأن البيانات الخاصة.
وقال ويليمسن: “لا تقلل من شأن مخاطر الأنواع المختلفة من الذكاء الاصطناعي قبل استخدام أي منها”.
هل توافق على أن الذكاء الاصطناعي يهاجم الاستدلال — وليس خروقات البيانات التقليدية — أصبحت أكبر خطر الخصوصية؟ لماذا؟ اسمحوا لنا أن نعرف في [email protected].
