الأمن السيبراني

مركز الفكر الأمني: توقف عن شراء الذكاء الاصطناعي، وابدأ بشراء النتائج


أدوات أمنية “تعمل بالذكاء الاصطناعي”. موجودة بالفعل في كل مكانوعام 2026 سيجعل ذلك أكثر وضوحًا. السؤال الذي أسمعه من CISOs ليس أبدًا “هل يجب أن نستخدم الذكاء الاصطناعي؟” بقدر ما “كيف يمكنني التمييز بين دواسة الوقود الأصلية واللعبة باهظة الثمن؟”

الحقيقة الصعبة هي أن الذكاء الاصطناعي أصبح قوة مضاعفة خطيرة لكلا الجانبين. في عملي الخاص، كنت أكتب عن التحول من مجموعات التطفل التي يديرها الإنسان إلى الحملات المنظمة بواسطة الذكاء الاصطناعي حيث يكون حاملو شهادة الماجستير في إدارة الأعمال هم المشغل الأساسي فعليًا ويصبح الإنسان مجرد مُوجه ومشرف. إن تجاهل الذكاء الاصطناعي هو بالطبع خيار، لكنه ليس خيارًا محايدًا. إنه يعني التخلف في سباق حيث لا يخطط الفريق الآخر لمنحك فترة راحة.

وفي الوقت نفسه، كانت استجابة السوق متوقعة، حيث اتبعت نفس المسار الذي اتبعته السحابة XDR [Extended Detection and Response]أو أي عدد من التقنيات التي سبقته. كل شيء يحمل شارة الذكاء الاصطناعي في مكان ما؛ حتى أنه يظهر في أسماء العديد من الشركات. تمت إعادة تجميع الميزات التي كانت تسمى التحليلات أو الارتباط كما لو كانت جديدة تمامًا، ولكن إذا اشتريت باستخدام كلمات طنانة، فسوف ينتهي بك الأمر إلى الدفع مقابل أشياء كانت لديك بالفعل. الحقيقة هي أننا لم نعد نرى أبدًا التفاخر بأنه “يتم التحكم فيه بواسطة الكمبيوتر” أو “رقمي” أو “إلكتروني” بعد الآن، وأتوقع تمامًا أن يسير الضجيج التسويقي حول “الذكاء الاصطناعي” بنفس الطريقة. على مدار الـ 12 إلى 24 شهرًا القادمة، سيصبح الذكاء الاصطناعي بمثابة توقع أساسي، وهو المحرك الصامت الذي يعيد توصيل كيفية عمل التكنولوجيا بهدوء دون الحاجة إلى ذكر اسمه بشكل صريح. أي منظمة تبذل كل ما في وسعها لتسويق نفسها على أنها “ذكاء اصطناعي” تفتقد هذه النقطة إلى حد كبير. ولا تستمد القيمة من التكنولوجيا نفسها، بل من المنفعة التي توفرها.

إذن ما الذي يجب أن يبحث عنه المشترون فعليًا؟

بالنسبة لي، الفلتر الأول بسيط. ابدأ بالعمل وليس بالنموذج. اسأل فرقك الخاصة أين يغرقون. في معظم المؤسسات، سيكون ذلك عبارة عن مزيج من الفرز التنبيهي، والتحقيق في العمل، وضوضاء الثغرات الأمنية، وإعداد التقارير. الذكاء الاصطناعي الذي يستحق الدفع مقابله هو الذكاء الاصطناعي الذي يمنحك الوقت والوضوح مرة أخرى في سير العمل تلك.

هناك ثلاث فئات رئيسية أرى فيها قيمة حقيقية حاليًا.

الأول: التلخيص والتوضيح. تعتبر النماذج التوليدية جيدة جدًا في تحويل أكوام السياق الفني إلى شيء يمكن للبشر استهلاكه. في عالمي الخاص، تعمدنا عدم البدء ببرنامج دردشة آخر مثبت على جانب المنتج. لقد بدأنا مع المستخدم. ويعني ذلك استخدام نماذج توليدية خلف الكواليس للقيام بأشياء مثل تلخيص صورة معقدة لمخاطر الأصول، أو ضغط حادث صاخب في شيء يمكن للمحلل فهمه بسرعة، أو إنشاء تقارير جاهزة للتنفيذيين يمكن لغير المتخصص أن يفهمها بالفعل. لم يصبح أحد محللاً لينتج عروض PowerPoint للرؤساء التنفيذيين. وإذا تمكن الذكاء الاصطناعي من رفع هذا العبء، فهذا فوز حقيقي.

والثاني هو الملاحة. تولد البيئات الحديثة قدرًا سخيفًا من القياس عن بعد. لديك سجلات وتنبيهات ومؤشرات وأصول تحتوي على آلاف السمات عبر ملايين الأجهزة. تاريخيًا، يتطلب استخدام هذه البيانات فعليًا تعلم لغة استعلام أو الاعتماد على متخصص لديه. تعد نماذج اللغات الكبيرة مناسبة تمامًا للجلوس بين المستخدم وتلك البيانات كطبقة ترجمة. يجب أن تكون قادرًا على قول “أرني جميع أنظمة Windows Server 2022 التي لا تعمل بنظام EDR” أو “أرني الأجهزة التي أصبحت عالية الخطورة هذا الأسبوع”، أو “أرني فقط الأجهزة الموجودة في الولايات المتحدة التي لديها درجة خطورة أعلى من 8.5 في الشهر الماضي”، واحصل على إجابة معقولة دون تعلم صياغة أخرى. يجب أن تكون قادرًا على إضافة سياق بكلمات عادية، “تضمين عنوان IP الخاص بالتبديل ومنفذ التبديل لكل جهاز من هذه الأجهزة” بدلاً من إعادة كتابة الاستعلام بالكامل.

هذه طريقة لكشف قيمة معلومات الأصول التي تجمعها بالفعل، خاصة إذا كانت رؤيتك تشمل حقًا جميع أنواع الأجهزة بدءًا من تكنولوجيا المعلومات وحتى التكنولوجيا التشغيلية وإنترنت الأشياء والأجهزة الطبية. تعد الطريقة الطبيعية للتفاعل مع بياناتك واحدة من أكثر الاستخدامات العملية للذكاء الاصطناعي في مجال الأمن اليوم.

والثالث هو تحديد الأولويات. وهذا مجال آخر يتطابق فيه ما يطلبه عملاؤنا وما يمكن أن يفعله الذكاء الاصطناعي بشكل مثالي تقريبًا. عندما يجلس أحد المحللين أمام وحدة التحكم المليئة بالتنبيهات، فإن السؤال الحقيقي هو “من أين أبدأ؟” عندما يحدق فريق الضعف قائمة من مكافحة التطرف العنيف الحرجة السؤال الحقيقي هو “أي منها يهم هنا؟” يمكن لنماذج اللغة وتقنيات الذكاء الاصطناعي الأخرى أن تنظر عبر سلوك المحلل التاريخي وأنماط الأقران والحالة الحية لبيئتك لتقول “إليك التنبيهات التي يجب أن تنظر إليها أولاً” أو “إليك نقاط الضعف التي من المرجح أن تلحق الضرر بك نظرًا لبنيتك التحتية”. هذا ما نسمعه مباشرة من ممارسي الأمن. يتحدثون عن توفير نصف ساعة من مكافحة الحرائق بمجرد الحصول على نقطة بداية معقولة بدلاً من القائمة الثابتة.

إذا تم تنفيذ هذا النوع من الذكاء الاصطناعي بشكل صحيح، فإنه لا ينزع السيطرة عن الإنسان. يقترح. يسلط الضوء. إنه يدفعك نحو الإبر في أكوام القش. لا يزال المستخدم يقرر ما إذا كان سيتم إغلاق المصنع أو عزل نظام مهم للأعمال. وهذا التوازن مهم، وخاصة في الصناعات الخاضعة للتنظيم والحساسة للسلامة حيث يؤدي القرار السيئ إلى عواقب في العالم الحقيقي.

على الجانب الآخر، هناك مجالات أنصح بالحذر فيها.

الأول هو استجابة مستقلة تماما. يوجد حاليًا الكثير من الاهتمام المبرر بالذكاء الاصطناعي الوكيل حيث لا تجيب الأنظمة على الأسئلة فحسب، بل تتخذ إجراءات لتحقيق الهدف. إذا تم استخدامها بشكل جيد، يمكن لهذه العوامل أن تبعد الكدح عن البشر. عند استخدامه بشكل سيء، يصبحون متدربين مفرطي الثقة ويتمتعون بإمكانية الوصول إلى الجذر. أنا لا أقول لا تسمح أبدًا للذكاء الاصطناعي باتخاذ الإجراءات. أنا أقول إنك بحاجة إلى حواجز حماية واضحة، وامتيازات أقل، ومساءلة بشرية عن تلك الأفعال. تعامل مع وكيل الذكاء الاصطناعي كعضو جديد في الفريق لا ينام أبدًا ولا يشعر بالملل أبدًا ولكنه أيضًا لا يفهم عملك حقًا. لا تعطي هذا الشخص مفاتيح الإنتاج في اليوم الأول.

العلم الأحمر الثاني هو التفكير السحري. إذا كان العرض التقديمي يبدو مثل “اشتر الذكاء الاصطناعي الخاص بنا ويمكنك استبدال مركز العمليات الخاص بك”، فابتعد. إن أي نشر واقعي للذكاء الاصطناعي في مجال الأمن خلال السنوات القليلة المقبلة سيبدو بمثابة تعزيز. فرز أفضل، وارتباط أفضل، وإعداد تقارير أفضل، واستخدام أفضل للخبرات النادرة. ليس صندوقًا واعيًا يوفر الأمان لك أثناء التركيز على العمل.

والثالث هو التعتيم حول البيانات والمخاطر. عندما تقوم بتقييم الأدوات المدعومة بالذكاء الاصطناعي، اقضِ وقتًا على الأقل في الإجابة على الأسئلة المملة كما هو الحال في العرض التوضيحي. أين تعيش البيانات؟ ما الذي يستخدم للتدريب؟ كيف يتم التحكم في الوصول؟ كيف يمكنك الدفاع عن مكون الذكاء الاصطناعي نفسه ضد الحقن الفوري أو إساءة استخدام النموذج أو التسمم؟ لا فائدة من شراء الذكاء الاصطناعي للدفاع عن بيئتك إذا لم تكن لديك فكرة عن كيفية الدفاع عن الذكاء الاصطناعي نفسه وإدارته.

فهل الأدوات المدعومة بالذكاء الاصطناعي تستحق العناء؟ الجواب هو نعم، للمشكلات الصحيحة، مع الأسئلة الصحيحة.

نصيحتي للمشترين في عام 2026 هي إبقائها على الأرض. ابدأ بواحد أو اثنين من عمليات سير العمل المؤلمة حيث تعلم أن فريقك يستهلك ساعات طويلة. ابحث عن البائعين الذين يمكنهم أن يظهروا، من خلال بياناتك، أنه يمكنهم منحك الوقت في حالات الاستخدام هذه. اطلب توضيحات واضحة لكيفية استخدام الذكاء الاصطناعي والقرارات التي يؤثر عليها وكيف يمكنك التحكم في الأمور. أصر على الرؤية التي تشمل بيئتك بأكملها، وليس مجرد شريحة رقيقة من تكنولوجيا المعلومات، لأن جودة الذكاء الاصطناعي تكون جيدة بقدر جودة البيانات التي يعمل منها.

لقد بنينا برامجنا الأمنية لعالم يكون فيه المهاجم إنسانًا دائمًا. لقد تغير ذلك بالفعل. لم يعد استخدام الذكاء الاصطناعي في الدفاع أمرًا اختياريًا، ولكن يمكنك اختيار ما إذا كنت ستشتري قصصًا تسويقية حول الإنترنت المستقل، أو الأدوات التي تساعد موظفيك حقًا على رؤية المزيد وفهم المزيد والتصرف بدقة.

الأول عبارة عن ضجيج، والثاني هو المكان الذي يبدأ فيه الذكاء الاصطناعي في الحصول على مكانه على خط الميزانية.



Source link

زر الذهاب إلى الأعلى