أوقفت شركة الذكاء الاصطناعي Anthropic أول هجوم إلكتروني واسع النطاق مدبر بواسطة الذكاء الاصطناعي، والذي قالت الشركة إن مجموعة ترعاها الدولة الصينية بدأته. قال أنثروبيك إن الممثل السيئ تلاعب بالممثل الأنثروبي كلود كود أداة “محاولة التسلل إلى ما يقرب من ثلاثين هدفًا عالميًا ونجحت في عدد صغير من الحالات”.
قام الذكاء الاصطناعي بمعظم العمل في الهجوم الأمني بشكل مستقل. استخدم الممثل السيئ الذكاء الاصطناعي لأداء 80% إلى 90% من الحملة – بدءًا من الاستطلاع وحتى استخراج البيانات – وكان التدخل البشري في حده الأدنى.
“إن الكم الهائل من العمل الذي يؤديه الذكاء الاصطناعي كان سيستغرق قدرًا هائلاً من الوقت لفريق بشري” قال الأنثروبي. “في ذروة هجومه، قدم الذكاء الاصطناعي آلاف الطلبات، غالبًا ما تكون متعددة في الثانية الواحدة – وهي سرعة هجوم كان من المستحيل مضاهاةها بالنسبة للقراصنة البشريين.”
وقال بريان جرينبيرج، مدير تكنولوجيا المعلومات في شركة RHR International الاستشارية، إن هذا التهديد مهم لأنه يوضح كيف يمكن لنموذج الذكاء الاصطناعي أن يقوم بمعظم العمل الفني الثقيل، مما يخفض حاجز الدخول أمام فرق صغيرة من المتسللين عديمي الخبرة أو الأقل مهارة أو – بدلاً من وحدة هجومية كاملة للدولة القومية – لشن هجوم إلكتروني يعتمد على الذكاء الاصطناعي.
حددت شركة Anthropic نشاطًا مشبوهًا في منتصف سبتمبر، والذي قررت الشركة أنه كان نتيجة “حملة تجسس متطورة للغاية”.
“استخدم المهاجمون القدرات “الوكيلة” للذكاء الاصطناعي إلى درجة غير مسبوقة – باستخدام الذكاء الاصطناعي ليس فقط كمستشار، ولكن لتنفيذ الهجمات الإلكترونية بأنفسهم”، وفقًا لما ذكرته Anthropic.
وأوضحت شركة الذكاء الاصطناعي أن الهجوم السيبراني استهدف عددًا من المنظمات، بما في ذلك “شركات التكنولوجيا الكبرى والمؤسسات المالية وشركات تصنيع المواد الكيميائية والوكالات الحكومية. ونعتقد أن هذه هي أول حالة موثقة لهجوم سيبراني واسع النطاق يتم تنفيذه دون تدخل بشري كبير”.
ردًا على التهديد، أطلقت Anthropic تحقيقًا، وحددت مدى خطورة التهديد، وحظرت الحسابات المحددة، وأخطرت المنظمات المتضررة وعملت مع السلطات أثناء جمع معلومات استخباراتية قابلة للتنفيذ.
الذكاء الاصطناعي والأمن السيبراني يصلان إلى “نقطة انعطاف”
وقالت أنثروبيك إنه تم الوصول إلى نقطة انعطاف في الأمن السيبراني حيث أصبحت نماذج الذكاء الاصطناعي الآن “مفيدة حقًا” في الأمن السيبراني – سواء في منع التهديدات أو نشرها. وقال ريك تورنر، كبير المحللين في Omdia، إن الشركات يجب أن تتوقع زيادة التهديدات القائمة على نماذج الذكاء الاصطناعي في المضي قدمًا.
وقال “يجب أن نشهد موجة متزايدة من مثل هذه الهجمات، خاصة من الجماعات التي ترعاها الدول. ويبقى أن نرى مدى استعداد التنظيم العادي أو مدى استعداده”.
وردد جرينبيرج من RHR هذا الشعور، واصفًا الهجمات الإلكترونية القائمة على الذكاء الاصطناعي بأنها “تهديد كبير”.
وقال: “إن الذكاء الاصطناعي يتحرك بسرعات لم نتمكن من تخيلها إلا حتى الآن. ويمكن لتقنيات الذكاء الاصطناعي استهداف العشرات من المنظمات في نفس الوقت، واكتشاف نقاط الضعف بشكل مستقل، وجمع بيانات الاعتماد، وتحليل البيانات المسروقة”. “ببساطة، لا يستطيع البشر مواكبة هذه الوتيرة دون مساعدة الذكاء الاصطناعي السيبراني.”
يمكن لمديري تكنولوجيا المعلومات الاستفادة من الذكاء الاصطناعي لتعزيز الوضع الأمني
وقال جرينبيرج إنه يجب على مدراء تقنية المعلومات أن يفترضوا أن المهاجمين لديهم بالفعل ذكاء اصطناعي في مجموعة أدواتهم. ردًا على ذلك، يحتاج مدراء تكنولوجيا المعلومات إلى تشديد أسطح الهجوم، وتطبيق المراقبة المستمرة، وأتمتة سير العمل الدفاعي قدر الإمكان، وتدريب المستخدمين النهائيين باستمرار على التعرف على التصيد الاحتيالي المدعوم بالذكاء الاصطناعي والتزييف العميق.
وقال جرينبيرج: “الجهود الأمنية اليدوية لن تنجح”.
يمكن للمؤسسات تحسين نهجها في مجال الأمن السيبراني أيضًا مع أو بواسطة وأوضح تورنر أن الذكاء الاصطناعي. حماية مع يحدث الذكاء الاصطناعي عندما يستخدم مورد الأمن السيبراني التعلم الآلي لاكتشاف التهديد أو GenAI لتوفير المزيد من السياق أو اقتراحات العلاج، على سبيل المثال. حماية بواسطة الذكاء الاصطناعي هو عندما “تستخدم أداة الأمان عوامل الذكاء الاصطناعي وأوضح تورنر أن الشركة قادرة على أداء مهام أمنية منخفضة المستوى بشكل مستقل، مما يحرر الموارد البشرية النادرة لتكريس نفسها لقضايا أكثر تعقيدًا.
وقال جرينبيرج إنه من خلال تطبيق نهج يعتمد على الذكاء الاصطناعي في الأمن السيبراني لمكافحة التهديدات القائمة على الذكاء الاصطناعي، يمكن لمديري تكنولوجيا المعلومات معالجة التهديدات بطريقة أكثر استباقية.
وقال جرينبيرج: “إن الطريقة الفعالة الوحيدة لمواجهة الهجمات المدعومة بالذكاء الاصطناعي هي استخدام الذكاء الاصطناعي بقوة على الجانب الدفاعي للكشف بشكل أسرع والتحليل الآلي والاستجابة السريعة للحوادث”.
