مع قيام Microsoft بتوسيع برنامج Copilot، يواجه مديرو تكنولوجيا المعلومات ثغرة أمنية جديدة في مجال الذكاء الاصطناعي
في وقت سابق من هذا الأسبوع، قامت Microsoft بتوسيع قدرات Copilot الخاصة بها بميزات جديدة مصممة لتوفير زملاء عمل دائمين يعتمدون على الذكاء الاصطناعي عبر سير عمل المؤسسة. هذه الميزات يجمع نماذج الذكاء الاصطناعي المتعددة وتعمل بشكل مستمر داخل الأدوات التي يستخدمها الموظفون بالفعل. وفي الوقت نفسه، جوجل لديها استمر في طرحها وظائف الذكاء الاصطناعي بداخلها منتج كروم يمكنها التفسير والتصرف عبر علامات تبويب متعددة – مما يحول المتصفح بشكل فعال إلى طبقة تنفيذ بدلاً من واجهة سلبية.
بشكل فردي، تبدو هذه الإعلانات بمثابة تحديثات إضافية للمنتج. وهي مجتمعة تشير إلى تحول أكثر أهمية. لا يقتصر الذكاء الاصطناعي اليوم على الأدوات المنفصلة التي يفتحها المستخدمون ويغلقونها. لقد أصبح جزءًا لا يتجزأ من البيئات التي يتم فيها العمل – مراقبة المعلومات وتفسيرها والتصرف بشكل متزايد بناءً عليها في الوقت الفعلي.
بالنسبة لمديري تقنية المعلومات، يقدم هذا التحول نوعًا جديدًا من المشاكل الأمنية – ليس لأن الذكاء الاصطناعي يخلق مخاطر جديدة تمامًا، ولكن لأنه يعمل الآن في مكان لم يتم تصميم معظم برامج أمان المؤسسات للتحكم فيه – طبقة التفاعل.
نموذج مبني على حركة البيانات
يعتمد أمان المؤسسات الحديث على افتراض إمكانية التحكم في المخاطر إدارة الوصول وتتبع حركة البيانات. تحدد أنظمة الهوية من يمكنه الوصول إلى ماذا. منع فقدان البيانات (DLP) أدوات مراقبة أين تذهب المعلومات. تفرض عناصر التحكم في نقطة النهاية والشبكة حدودًا حول كليهما.
ولا يزال هذا النموذج قائما، لكنه لم يعد مكتملا.
القلق الأكثر إلحاحا هو أيضا الأكثر شيوعا. وكما أوضح دان لورمان، كبير مسؤولي أمن المعلومات الميداني للقطاع العام في Presidio، يقوم المستخدمون بالفعل بإدخال معلومات حساسة في أنظمة الذكاء الاصطناعي كجزء من العمل اليومي: “يلصق المستخدمون محتوى حساسًا – كود المصدر، وسجلات العملاء، وتفاصيل الحوادث، ومستندات الإستراتيجية الداخلية – في مطالبات الدردشة لأنها تبدو سريعة وغير رسمية.”
في كثير من الحالات، تحدث هذه التفاعلات خارج مسارات العمل المعتمدة، عندما يصل المستخدمون إلى الحسابات الشخصية على أجهزة الشركة؛ وهذا يخلق ما وصفه لورمان بالمستمر مشكلة الظل AI.
لكن التركيز على ما يدخله المستخدمون في أنظمة الذكاء الاصطناعي لا يلتقط سوى جزء من المخاطر. التغيير الأكثر أهمية هو ما يحدث بعد ذلك.
بيانات تغيير الشكل
لا يقوم الذكاء الاصطناعي بنقل البيانات فحسب، بل يعيد تشكيلها. وأوضح إدوارد ليبج، الرئيس التنفيذي لشركة OT SOC Options – وهو اتحاد من المتخصصين في مجال الأمن السيبراني في مجال التكنولوجيا التشغيلية – أن هذا التمييز غالبًا ما يتم التغاضي عنه. لقد أمضت الشركات سنوات في بناء ضوابط حول حركة البيانات، لكن الذكاء الاصطناعي يفرض مخاطر من خلال تحويل تلك البيانات؛ فهو يلخص المعلومات ويعيد تجميعها ويعيد تفسيرها بطرق يصعب تتبعها.
وقال ليبج: “ما يتغير مع الذكاء الاصطناعي المضمن في المتصفحات والبريد الإلكتروني وأدوات سير العمل ليس فقط كيفية نقل البيانات، ولكن كيفية بناء السياق، وكيفية التأثير على القرارات”.
وحذر من أن هذا التحول يخلق سيناريوهات تقع خارج نماذج الكشف التقليدية. قد لا يتطابق التقرير الحساس الذي تم تلخيصه في نقاط مع قواعد التصنيف. قد تؤدي مصادر البيانات المتعددة منخفضة المخاطر، عند دمجها، إلى استنتاج عالي المخاطر. قد تعكس المخرجات استراتيجية داخلية أو منطق تشغيلي، حتى بدون احتوائها على أي بيانات أصلية.
وقال ليبج: “لا يحتاج الذكاء الاصطناعي إلى استخراج البيانات لخلق التعرض”. “يمكن أن يستنتج ذلك.”
كما يشعر كاميرون براون، رئيس قسم التهديدات السيبرانية وتحليلات المخاطر في شركة التأمين أرييل ري، بالقلق إزاء هذه الفجوة الأمنية الجديدة. تم تصميم عناصر التحكم التقليدية لاكتشاف الإشارات الواضحة: خروج الملفات من النظام، أو نسخ البيانات أو نقلها. لكن التعرض الناتج عن الذكاء الاصطناعي أكثر دقة.
وقال براون: “لا يقوم الذكاء الاصطناعي دائمًا بتسريب البيانات بطرق واضحة”. “إنه يلخص، ويعيد التشكيل، ويلمح، ويستنتج. وفجأة، لا يبدو هذا “التسرب” وكأنه تسرب على الإطلاق.”
الوصول المصرح به، ولكن النتائج غير المقصودة
إذا كان تحويل البيانات هو المشكلة الوحيدة، فمن الممكن أن تتطور عناصر تحكم DLP الحالية لمعالجتها. لكن الذكاء الاصطناعي يطرح مشكلة ثانية أكثر تعقيدا: المخاطر الناشئة عن الأنشطة المصرح بها بالكامل.
وقال ليبج: “في طبقة التفاعل، لا يتمثل الخطر الأساسي في الوصول غير المصرح به”. “إنه استخدام مصرح به يؤدي إلى نتائج غير مقصودة.”
يمكن لأنظمة إدارة الهوية والوصول (IAM) تحديد ما إذا كان مسموحًا للمستخدم بالوصول إلى مجموعة البيانات. ولا يمكنهم تحديد كيف سيفسر نظام الذكاء الاصطناعي تلك البيانات بمجرد الوصول إليها، أو كيف سيتم دمجها مع المدخلات الأخرى.
وقال ليبج: “IAM يحل مشكلة الوصول”. “إنه لا يحل للنتيجة.”
وتصبح هذه الفجوة أكثر أهمية مع دمج أنظمة الذكاء الاصطناعي في بيئات المؤسسات. وأشار لورمان إلى أن ربط أدوات الذكاء الاصطناعي بأنظمة مثل منصات إدارة علاقات العملاء أو أدوات إصدار التذاكر أو مستودعات الأكواد يؤدي بشكل فعال إلى إنشاء مشغل جديد يتمتع بأذونات المستخدم – مشغل قادر على الاستعلام عن المعلومات وتجميعها عبر أنظمة متعددة.
وقال لورمان: “إن الذكاء الاصطناعي هو قوة مضاعفة للوصول”.
ولا يقتصر المعنى الضمني على الوصول على نطاق أوسع فحسب، بل يشمل أيضًا استخدامًا أقوى وأقل قابلية للتنبؤ بهذا الوصول. وبعبارة أخرى، كابوس أمني.
المتصفح بمثابة فجوة السيطرة
إن مكان حدوث هذه التفاعلات لا يقل أهمية عن كيفية حدوثها. لقد تم دمج الذكاء الاصطناعي بشكل متزايد في المتصفح وطبقة الإنتاجية؛ نفس البيئة التي يقوم فيها المستخدمون بالمصادقة في الأنظمة والوصول إلى البيانات الحساسة والتفاعل مع المحتوى الخارجي. وهذا يجعل المتصفح نقطة مركزية للتعرض، ومع ذلك تم التغاضي عنها تاريخيًا من منظور أمني.
وقال ليبج: “لم يصبح المتصفح الحلقة الأضعف”. “لقد كشفت ببساطة عن طبقة لم نحكمها أبدًا.”
لقد أمضت الشركات سنوات في استخدام أدوات الشبكات ونقاط النهاية وأنظمة الهوية. لقد استثمر عدد أقل بكثير في إدارة طبقة التفاعل حيث يتلاقى الآن المستخدمون وأنظمة الذكاء الاصطناعي. براون صريح بشأن العواقب.
وقال: “إنه المكان الذي تحدث فيه معظم تفاعلات الذكاء الاصطناعي، ومع ذلك يتم التعامل معه باعتباره الجزء الأقل إثارة للاهتمام في المجموعة”. “هذا تراجع. يجب أن يكون نقطة الصفر.”
وافق لورمان على ذلك، مشيرًا إلى أن المساعدين والامتدادات المضمنة غالبًا ما يعملون بضوابط أضعف ورؤية أقل من تطبيقات المؤسسات التقليدية.
تتفاقم المشكلة عندما يعمل المستخدمون خارج البيئات التي تديرها المؤسسة. وقال لورمان إن الموظفين يعرضون مخاطر أمنية باستخدام الحسابات الشخصية على أجهزة الشركة، حيث قد يتم تخزين البيانات التي تتم مشاركتها مع أدوات الذكاء الاصطناعي خارج أنظمة الشركة وبعيدًا عن متناول عمليات التدقيق والاستجابة.
ثم يظهر تحدي الرؤية: “يتراكم تاريخ النماذج، وتتشابك فيها المعلومات التجارية، ونتمنى حظًا سعيدًا لأي فريق من الطب الشرعي يحاول حل مشكلة السباغيتي المطبوخة أكثر من اللازم”، كما يقول براون.
توسيع نطاق السيطرة إلى ما هو أبعد من الوصول
ولا يجعل أي من هذه التطورات الضوابط الأمنية الحالية غير ذات صلة. تظل إدارة الهوية وأمن نقطة النهاية وDLP ضرورية. ولكنها ليست كافية لمعالجة المخاطر التي يفرضها الذكاء الاصطناعي.
وأوضح براون أن أساليب المراقبة التقليدية محدودة بما تم تصميمها للكشف عنه. وقال: “لا يزال نظام DLP التقليدي يؤدي وظيفته في التقاط الأشياء الواضحة”. لكن التعرض القائم على الذكاء الاصطناعي غالبا ما يقع خارج تلك الأنماط، مما يتطلب التحول نحو مراقبة السلوك والنوايا، بدلا من مجرد نقل البيانات.
وقال لورمان إن الشركات تحتاج إلى طبقة جديدة من التحكم، طبقة تمتد إلى ما هو أبعد من الوصول إلى كيفية استخدام أنظمة الذكاء الاصطناعي للبيانات وتحويلها. “تجيب IAM بشكل عام على “من أنت؟” و”ما الذي يمكنك الوصول إليه؟”. “يضيف الذكاء الاصطناعي “كيف يتم استخدام البيانات وتحويلها؟””
وينطوي هذا التحول على متطلبات جديدة: الرؤية للموجهات والمخرجات، وتشديد الرقابة على كيفية اتصال أدوات الذكاء الاصطناعي بأنظمة المؤسسة، وإشراف أكثر دقة على كيفية استخدام المخرجات التي يولدها الذكاء الاصطناعي في عملية صنع القرار.
تشير هذه التغييرات مجتمعة إلى تطور أوسع في أمن المؤسسات، وهو تطور لا يحل محل الضوابط التقليدية ولكنه يوسعها إلى طبقة كانت حتى الآن غير خاضعة للرقابة إلى حد كبير. لم تعد مراقبة أين تذهب البيانات كافية إذا كان معناها يمكن أن يتغير دون رؤية. إن التحكم في الوصول غير كافٍ إذا لم يكن من الممكن التحقق من صحة نتائج هذا الوصول.
وقال ليبج: “إننا ننتقل من عالم حماية البيانات إلى عالم ضمان القرار”.
