لقد تحدثنا عن الطرق المتعددة التي يمكن للذكاء الاصطناعي من خلالها دعم أنشطة العمليات الأمنية. هناك العديد من المنتجات والميزات الجديدة التي يتم إصدارها استنادًا إلى برامج الدردشة المستندة إلى LLM، مع التركيز القوي على مساعدة المحللين على أداء وظائفهم. من بين حالات الاستخدام الأكثر شيوعًا طلبات الحصول على معلومات وسياق إضافي أثناء التحقيقات والاستعلام عن البيانات باستخدام اللغة الطبيعية بدلاً من لغات الاستعلام. يمكن لهذه الميزات نظريًا أن تساعد المحللين الأقل مهارة على القيام بأشياء تتطلب عادةً موارد أكثر خبرة. يمكن لقدرة الذكاء الاصطناعي على معالجة استعلامات اللغة الطبيعية تبسيط التفاعلات مع أنظمة الأمان المعقدة، وبالتالي تسهيل تجربة أكثر سهولة في الاستخدام للمحللين.
إن ضخ الذكاء الاصطناعي في العمليات الأمنية يبشر بالتغيير التحويلي. من خلال أتمتة المهام الروتينية، يمكن للذكاء الاصطناعي تحرير المحللين للتعامل مع التحديات الأكثر تعقيدًا، مما يعزز بشكل فعال الإنتاجية الإجمالية لمركز العمليات الأمنية (SOC). بالنسبة للمحللين الذين يمتلكون خبرة أقل، يمكن للذكاء الاصطناعي تقديم التوجيه وتبسيط المهام المعقدة التي تتطلب عادةً يدًا أكثر خبرة.
يمكن أن تكون قدرات الاستجابة السريعة للذكاء الاصطناعي ذات قيمة لا تقدر بثمن في معالجة التهديدات الناشئة، مما يوفر سرعة في الكشف والتخفيف غالبًا ما تتجاوز القدرة البشرية. بالإضافة إلى ذلك، يمكن أن تؤدي أتمتة بعض المهام الأمنية بواسطة الذكاء الاصطناعي إلى خفض التكاليف التشغيلية، مما يوفر فائدة اقتصادية للمؤسسات من خلال تقليل الحاجة إلى عدد كبير من الموظفين من المتخصصين في مجال الأمن ذوي التخصص العالي.
على الرغم من هذه المزايا المحتملة، فإن إدخال الذكاء الاصطناعي في العمليات الأمنية لا يخلو من التحديات. قد يؤدي الاعتماد المفرط على الذكاء الاصطناعي إلى ضمور مهارات المحلل، مما يخلق تبعية تقلل من قدرته على العمل بشكل مستقل. يمكن أن يؤدي تعقيد تنفيذ أنظمة الذكاء الاصطناعي أيضًا إلى زيادة النفقات العامة، مما قد يؤدي إلى عدم الكفاءة إذا لم تتم إدارتها بشكل صحيح. يعد أمن أنظمة الذكاء الاصطناعي نفسها أحد الاعتبارات المهمة الأخرى؛ إذا تم اختراق هذه الأنظمة، فمن الممكن التلاعب بها لتضليل المحللين أو لأتمتة نشر الهجوم داخل المنظمة.
في نهاية المطاف، سيتم تحديد مدى نجاح الذكاء الاصطناعي في مركز عمليات الأمن (SOC) من خلال جودة مخرجاته. وذلك لأنه عند ترك مهمة لمحلل أقل مهارة ليقوم بها، بمساعدة أحد موارد الذكاء الاصطناعي، فقد لا يكون لديه المهارات المناسبة للحكم على مدى جودة أداء الذكاء الاصطناعي للمهمة. ماذا يعني ذالك؟
لنبدأ بالنظر في كيفية قيام المحلل بإجراء تحقيق عبر الاستعلامات الشائعة على محرك البحث. يجب أن يكونوا بارعين في لغة الاستعلام هذه من أجل القيام بذلك. سوف يفكرون في البيانات التي يحتاجون إلى رؤيتها ثم يتابعون تصحيح الاستعلام للحصول عليها. منتهي.
الآن، لنتخيل أن لدينا محللًا ليس لديه نفس الكفاءة في لغة الاستعلام ويقوم بنفس الوظيفة ويستخدم أيضًا الذكاء الاصطناعي للحصول على الاستعلام المطلوب للحصول على البيانات. يسأل المحلل الذكاء الاصطناعي عما يريده، وسيقوم الذكاء الاصطناعي بإنشاء الاستعلام، والذي يتم تنفيذه لتوفير البيانات المتوقعة. في هذا السيناريو، كيف يمكننا التأكد من أن الاستعلام الناتج عن الذكاء الاصطناعي سيوفر بالفعل النتيجة المتوقعة؟ ماذا لو كان تجاهل بعض الشروط بطريقة تؤدي في النهاية إلى نتائج سلبية كاذبة؟ يعد هذا السيناريو مثيرًا للقلق لأن المحلل هنا ليس لديه المعرفة المطلوبة لمراجعة الاستعلام الذي تم إنشاؤه والتأكد مما إذا كان يفعل ما ينبغي عليه بالفعل. علاوة على ذلك، إذا لم تكن عمليات صنع القرار في الذكاء الاصطناعي شفافة، فإن تأثير “الصندوق الأسود” هذا يمكن أن يؤدي إلى تآكل الثقة ويجعل من الصعب حتى على المحللين ذوي الخبرة اتباع المنطق الكامن وراء الإجراءات التي تعتمد على الذكاء الاصطناعي.
ولهذا السبب يعد وجود معيار عالٍ لجودة مخرجات الذكاء الاصطناعي أمرًا بالغ الأهمية لتمكين السيناريو أعلاه. بدونها، قد يكون لدينا أداة توفر بعض الوقت للمحلل الماهر، ولكنها ليست موثوقة بدرجة كافية لتمكين المحللين الأقل مهارة من أداء نفس الوظيفة. وينطبق نفس المنطق على إنشاء منطق الكشف، مثل قواعد الكشف. هل يمكننا أن نثق في الذكاء الاصطناعي بدرجة كافية حتى نتمكن من إنشاء محتوى الكشف ووضعه في مرحلة الإنتاج دون مراجعة محلل ماهر؟ ماذا عن إجراءات الاستجابة؟ ما مدى موثوقية الذكاء الاصطناعي حتى نسمح له بتنفيذ إجراءات الاستجابة دون وجود إنسان ذي مهارات عالية في الحلقة؟
من المؤكد أن الذكاء الاصطناعي يحمل القدرة على إحداث ثورة في العمليات الأمنية. ومع ذلك، فإن تكاملها الناجح يتطلب دراسة متأنية، وإشرافًا متسقًا، ونهجًا متوازنًا يعزز نقاط القوة في كل من أنظمة الذكاء الاصطناعي والمحللين البشريين. ومن خلال التركيز على الجودة، يمكن للمؤسسات الاستفادة من الذكاء الاصطناعي لتعزيز كفاءة العمليات الأمنية دون تعريض الأمن أو الفعالية للخطر.
