أكثر من 80 ٪ من الشركات العالمية تستخدم الآن الذكاء الاصطناعي لتحسين العمليات التجارية. أصبحت الذكاء الاصطناعى أيضًا ميزة لحياة الأفراد اليومية ونحن نتفاعل مع مفاتيح الدردشة أو المساعدين الصوتيين أو تقنيات البحث التنبؤية. ولكن مع نمو انتشار الذكاء الاصطناعى ، فإن المخاطر المرتبطة بإساءة استخدامها – خاصة من قبل الجهات الفاعلة في الدولة القومية المنخرطة في التجسس والهجمات الإلكترونية وتسوية سلسلة التوريد.
التطورات الأخيرة مثل فبراير قمة عمل الذكاء الاصطناعيو أمر الرئيس ترامب التنفيذي وحكومة المملكة المتحدة خطة عمل فرص الذكاء الاصطناعي الكشف عن موضوعين رئيسيين. أولاً ، المصلحة الوطنية في قلب استراتيجيات الحكومة الذكاء الاصطناعي ، وثانياً ، أصبحت الذكاء الاصطناعى محورًا واضحًا للعديد من استراتيجيات الدفاع الوطني. لذلك ليس من المستغرب أن ظهور نماذج قوية مثل Deepseek’s R1 جددت مخاوف بشأن التجسس الصناعي.
ومع ذلك ، فإن التركيز على نماذج معينة أو البائعين أو الدول يفتقد إلى نقطة أوسع: يتم بالفعل سلاح منظمة العفو الدولية لدعم تكتيكات الهجوم السيبراني ، بما في ذلك الاستطلاع وتطوير الموارد لاستهداف الصناعات وأسرارها. بالنسبة لكبار ضباط أمن المعلومات (CISOs) وقادة الأمن ، فإن السؤال الذي طرح هو كيف يغير الذكاء الاصطناعى مشهد التهديد وكيفية الرد وفقًا لذلك. بالنسبة للشركات الناشئة والصناعات التي تعتمد على التكنولوجيا ، يعد هذا أكثر إلحاحًا ، حيث تبين بالفعل أن الدول القومية تستهدف تلك الموجودة في متطورة التكنولوجيا. وبالتالي ، فإن التعديلات على أدوار الأشخاص والعمليات والتكنولوجيا في الأمن السيبراني مطلوبة للاستجابة الاستراتيجية لتهديدات الذكاء الاصطناعي.
AI-AIGMENTED العمليات الإلكترونية
تعمل الجهات الفاعلة في الدولة القومية على دمج Genai بشكل متزايد في هجمات الإنترنت لتعزيز الكفاءة والأتمتة والدقة. أكثر من 57 وقد لوحظت مجموعات التهديد المستمر المتقدم (APT) المرتبطة بالدول القومية باستخدام الذكاء الاصطناعي في العمليات الإلكترونية. يمكن لمنظمة العفو الدولية أتمتة البحث وترجمة المحتوى والمساعدة في الترميز وتطوير البرامج الضارة لتطوير العمليات الإلكترونية.
واحدة من أكثر التحديات المتعلقة بالتحديات هي استخدام الذكاء الاصطناعى في صياغة رسائل التصيد القنعة للغاية ، مما يزيد من وتيرة وحجم الهجمات الإلكترونية. يمكن أن تنشئ نماذج اللغة الكبيرة (LLMS) رسائل معقولة للغاية ، وتستهدف للأفراد والمنظمات. يقوم المجرمون بنشر مقاطع فيديو DeepFake التي تصنعها الذكاء الاصطناعى ، والصوت ، والصور ، لتعزيز حملات الهندسة الاجتماعية. حالة Arup، تُظهر شركة التصميم والهندسة ، التي فقدت 25 مليون دولار نتيجة لـ DeepFake CFO ، كيف يمكن للعمليات التي تدعم الذكاء الاصطناعي مقنعة الوصول إلى الشركات.
نقاط الضعف في سلسلة التوريد
إلى جانب الهجمات الإلكترونية المباشرة ، تستهدف ممثلو التهديدات أيضًا سلاسل إمداد الذكاء الاصطناعى من الأجهزة إلى البرامج. السيئ السمعة Solarwinds Sunburst أظهر الهجوم كيف يمكن للجهات الفاعلة في دولة الدولة المتطورة التسلل إلى شبكات المؤسسات من خلال استهداف سلاسل التوريد. يمتد المخاطر إلى برنامج الذكاء الاصطناعي أيضًا. من خلال تضمين نقاط الضعف في مرحلة التصنيع أو التطوير ، يمكن للخصوم أن يستهدفوا مجموعة واسعة من الخصوم ، والاستفادة من وفورات الحجم.
تعتبر نقاط الضعف في سلسلة التوريد اتجاهًا رئيسيًا يهيمن على الأمن السيبراني. مكتب الصناعة والأمن الحظر الأخير على استيراد وبيع الأجهزة أو البرامج للمركبات المتصلة من بعض الدول يسلط الضوء على قلق الولايات المتحدة المتزايد. استهدف الممثلون الخبيثون حزم بيثون لـ LLMs مثل ChatGPT و Claude لتقديم البرامج الضارة التي يمكنها حصاد بيانات المتصفح ولقطات الشاشة ورموز الجلسة. يجب على أولئك الذين يشترون أنظمة الذكاء الاصطناعى ومكوناتهم التفكير في المكان الذي يأتي منه الذكاء الاصطناعي وكيف يتفاعل المستخدمون معها.
أطر الحوكمة والأمن منظمة العفو الدولية
للدفاع عن تهديدات الدولة القومية المتمثلة في AI-AIGMENTER ، يجب على قادة الأمن تبني مجموعة من الاستراتيجيات بما في ذلك أطر حوكمة الذكاء الاصطناعى ، والتدريب المستهدف ، وتدابير حماية البيانات القوية ، وعمليات إدارة المخاطر على الطرف الثالث ، وذكاء التهديد الاستباقي.
أطر منظمة العفو الدولية التي تتماشى مع أفضل الممارسات للحكم – مثل NIST AI RMFو ISO 42001 و Miter و OWASP و NCSC للأمن – توفير الأساس للدفاع منظم. من خلال إنشاء أدوار ومساءات واضحة عن الذكاء الاصطناعى ، والسياسات التي تحدد الاستخدام المقبول وغير المقبول ، والمناهج القوية للمراقبة والتدقيق ، يمكن للإطار تنفيذ الدفاعات مقابل تعريض المعلومات الحساسة.
يحتاج دور الناس والثقافة إلى التغيير استجابة لمخاطر الذكاء الاصطناعي. يمكن أن يؤدي التدريب ، بدءًا من محو الأمية منظمة العفو الدولية لتغطية وعي الذكاء الاصطناعي وتأثيره على الأمن ، إلى تمكين الموظفين من اكتشاف التهديدات الإلكترونية من الذكاء الاصطناعي والتحدي والتخفيف من AI. جرد أنظمة الذكاء الاصطناعى هو جزء أساسي من حوكمة الذكاء الاصطناعي. تحتاج CISO إلى معرفة أين وكيف يتم استخدام الذكاء الاصطناعى عبر المؤسسة ، وتحتاج شركات التكنولوجيا إلى معرفة ماذا وأين هي أصولها الحاسمة.
تدابير حماية البيانات
يمكن أن تحد عناصر التحكم في الوصول إلى البيانات قدرة الأعداء على exfiltrate أسرار الملكية. إن تجزئة البيانات لتقييد نماذج الذكاء الاصطناعى من معالجة البيانات الحساسة ، وتقنيات تعزيز الخصوصية مثل التشفير ، وأنظمة مراقبة لفقدان بيانات الشركات غير المصرح بها تجعل من الصعب على الدول القومية استخراج الذكاء القيمة. يمكن أن يؤدي تطبيق مبادئ حماية البيانات مثل التقليل إلى الحد الأدنى ، وقصر الغرض ، وتقييد التخزين إلى زيادة أهداف الأمان والمسؤولية.
تأمين سلاسل إمداد الذكاء الاصطناعى
وفي الوقت نفسه ، تمنع إدارة مخاطر سلسلة التوريد تسلل أدوات الذكاء الاصطناعي للخطر. تشمل الخطوات المهمة إجراء تقييمات أمنية لبائعي الذكاء الاصطناعى من طرف ثالث ، مما يضمن أن نماذج الذكاء الاصطناعى لا تعتمد على واجهات برمجة التطبيقات المستضافة الأجنبية التي يمكن أن تقدم نقاط الضعف ، وتوثيق فواتير البرمجيات للمواد (SBOMs) لتتبع التبعيات واكتشاف المخاطر.
اكتشاف التهديدات التي يحركها AI
أخيرًا ، يمكن أن تكون الذكاء الاصطناعى نفسها أداة للدفاع ضد التهديدات التي تعمل بمنظمة العفو الدولية. يمكن أن يحدد اكتشاف الشذوذ الذي يحركه الذكاء الاصطناعى أنماطًا مشبوهًا أو أنماط فقدان البيانات ، ونشر AI العدائية لاختبار أنظمة AI للمؤسسة لاستفادة الثغرات الأمنية ، وزيادة المراقبة للتصيد الذي تم إنشاؤه بواسطة الذكاء الاصطناعى ، وتقييم فعالية الضوابط. نظرًا لأن الهجمات السيبرانية التي تدعم الذكاء الاصطناعي تتسارع إلى ما وراء إمكانات الاستجابة البشرية ، فإن الأنظمة الآلية للمراقبة والدفاع ضرورية لمنع استغلال نقاط الضعف عند سرعة الماكينة.
من الواضح أن صعود تهديدات الدولة القومية التي تعمل الذكاء الاصطناعي تتطلب استجابة استباقية واستراتيجية من قادة الأمن. من خلال تبني أطر حوكمة الذكاء الاصطناعى ، وفرض حوكمة البيانات الصارمة ، وتأمين سلاسل التوريد ، والاستفادة من الكشف عن التهديدات AI ، يمكن للمؤسسات تعزيز دفاعاتها ضد التجسس الصناعي.
إليزابيث ماكاي خبير أمن الإنترنت في PA Consulting
