دعونا نلخص بعض الضجة المحيطة بمسار الذكاء الاصطناعي هذا العام.
تم إنشاؤها بواسطة الذكاء الاصطناعي صورة وسرعان ما انتشرت صورة البابا فرانسيس وهو يرتدي معطفًا منتفخًا أبيض ضخمًا وخدعت الملايين وجعلتهم يعتقدون أنها حقيقية.
لقد استحوذت روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، مثل ChatGPT، وBard من Google، وBing من Microsoft، على اهتمام العالم بقدراتها المحسنة للمشاركة في المحادثات الشبيهة بالإنسان، وإنشاء محتوى مكتوب، وتنفيذ مهام أكثر تعقيدًا، مثل كتابة التعليمات البرمجية البرمجية.
وقد دعت إلى ذلك مجموعة من كبار الشخصيات في صناعة التكنولوجيا، بما في ذلك إيلون ماسك والمؤسس المشارك لشركة أبل ستيف وزنياك توقف لمدة ستة أشهر في تطوير الذكاء الاصطناعي للنظر في الآثار السلبية للتكنولوجيا التي يمكن أن “تشكل مخاطر عميقة على المجتمع والإنسانية”.
تسبب الذكاء الاصطناعي التوليدي في زيادة اهتمام المستثمرين، مما أدى إلى إنشاء أسهم الذكاء الاصطناعي القطاع الأكثر سخونة في وول ستريت.
لم يكن هناك أي شيء مصطنع في الاهتمام الكبير الذي حظي به الذكاء الاصطناعي في عام 2023، وهو العام الذي اجتاح فيه الذكاء الاصطناعي العالم. ومع ذلك، نادرا ما كانت التكنولوجيا الناشئة مثيرة للجدل إلى هذا الحد، حيث ألهمت مجموعة من المشاعر من الإثارة حول إمكانات الذكاء الاصطناعي الإبداعية إلى المخاوف من تسبب الآلات في تأجيج الاضطرابات الاقتصادية والفوضى الاجتماعية.
باعتباري خبيرًا في مجال التكنولوجيا يبلغ من العمر أكثر من 20 عامًا ورئيسًا لأمن المعلومات في شركة للأمن السيبراني، كثيرًا ما أُسأل عن شعوري تجاه تأثير الذكاء الاصطناعي على عملي.
الجواب: الأمر معقد.
فمن ناحية، يعمل الذكاء الاصطناعي على تعزيز عمليات الجرائم الإلكترونية بأدوات جديدة قوية لتسريع تسليح واستغلال حالات التعرض الجديدة، وتبسيط الهجمات على نطاق واسع، ورفع مصداقية هجمات الهندسة الاجتماعية – غالبًا بطرق مخيفة، لا سيما استخدام التزييف العميق لتنفيذ و “إضفاء الشرعية” على الهجمات المستهدفة.
ومن ناحية أخرى، أثبت الذكاء الاصطناعي أنه أداة فعالة لزيادة إنتاجية فريق الأمن وقدراته بشكل كبير. لا يعمل الذكاء الاصطناعي على توسيع نطاق قدرة الفريق على تنسيق العمليات من خلال التعليمات البرمجية، بغض النظر عن مستوى المهارة فحسب، بل يعمل أيضًا على تحسين المخرجات في المجالات التي نادرًا ما تكون في غرفة القيادة العامة للفريق (على سبيل المثال، الاتصالات والوثائق). حتى الأنظمة الأساسية الموجودة في مجموعتنا تعمل معًا بشكل أفضل، وتصبح إدارتها أسهل، وتبدأ في القيام بالمزيد نيابةً عنا أكثر من أي وقت مضى. الذكاء الاصطناعي هو المسرع الأساسي.
يستفيد كل من الممارسين والمتسللين من الذكاء الاصطناعي وGenAI على وجه الخصوص فيما أصبح بسرعة سباق تسلح قائم على الذكاء الاصطناعي بين المدافعين والمهاجمين الذين يستخدمون قدراته لتعزيز تكتيكاتهم.
باعتباري كبير مسؤولي تكنولوجيا المعلومات (CISO) ورائدًا في مجال التكنولوجيا، إليك أربعة إدراكات أدركتها بشأن الذكاء الاصطناعي في عام 2023:
1. لقد ضاعف الذكاء الاصطناعي وعزز محاولات الجهات الخبيثة التي تستهدف سطح الهجوم.
لنأخذ على سبيل المثال الهندسة الاجتماعية – عمليات التصيد الاحتيالي وما شابه ذلك التي تستخدم علم النفس البشري لخداع الضحايا لمشاركة معلومات حساسة. كانت العديد من هجمات الهندسة الاجتماعية عبارة عن ميمي إلى حد ما. لسنوات، يمكننا عمومًا تلخيص التدريب على التوعية بالتصيد الاحتيالي على أنه رسائل البريد الإلكتروني التي تحتوي على أخطاء إملائية وأخطاء نحوية وطلبات لا تضيف شيئًا مشبوهة ومن المحتمل أن تكون ضارة.
لكن الذكاء الاصطناعي يساعد المتسللين على تطوير لعبتهم. على سبيل المثال، يتجهون إلى الذكاء الاصطناعي التوليدي لإنشاء اتصالات مقنعة استنادًا إلى العديد من أجزاء المحتوى التي تنشرها الشركات وشركاؤها عبر الإنترنت. يتضمن ذلك استخدام الصور ومحتوى الصوت والفيديو المسجل الذي يشارك فيه المتحدثون باسم الشركة واستخدامهم في أنشطة احتيالية مثل سرقة الهوية والهجمات القائمة على التزييف العميق. إن هذا البريد الصوتي من “المدير المالي” الذي يطلب تحويل الأموال إلى حساب جديد سوف يعيد مثل هذه الهجمات وغيرها الكثير إلى الواجهة.
الآن، والأكثر شيوعًا، عندما يرسل مجرمو الإنترنت رسالة بريد إلكتروني يُزعم أنها من شخص يثق به المستلم، يمكنهم حتى إدخال بيانات من الاتصالات العامة للشخص – على سبيل المثال خطاب ألقواه، أو، نعم، مقال كتبوه – في ملف أداة الذكاء الاصطناعي وتكرار صوت المرسل المفترض بصدق.
وعلى الفور، أصبحت التدابير التقليدية التي يتم الاعتماد عليها اليوم – مثل التدريب على الوعي الأمني الذي يقوم بتثقيف الموظفين حول كيفية اكتشاف الأنشطة المشبوهة – غير كافية للحماية من هذه التهديدات الجديدة. مما يؤدي إلى النقطة رقم 2 …
2. ينبغي احتضان الذكاء الاصطناعي، وليس الخوف منه.
من خلال تقييم “الأمر” كأداة قوية جديدة مع الأخذ في الاعتبار مخاطر اليوم مقابل المخاطر المستقبلية المحتملة للإنسانية مع تكرار الذكاء الاصطناعي إلى الأمام، قررت منظمتنا في وقت مبكر الاعتراف بأن الذكاء الاصطناعي التوليدي موجود ليبقى. هناك الكثير الذي يمكن اكتسابه من تبني الأدوات القوية واحترامها، مع إدارة المخاطر من خلال برامج التوعية المعدلة التي توضح كيفية استخدام GenAI بأمان في بيئة الشركة بما يحقق أفضل ما يناسبك.
بدلاً من محاولة إغلاق صندوق باندورا، نظرنا بحماس إلى الداخل وسألنا أنفسنا كيف يمكننا استهلاك قدرات الذكاء الاصطناعي التوليدية هذه بأمان على نطاق واسع. النتائج؟ لقد تضاعف حجم الإنتاج الهندسي للفريق، حيث تم إنشاء نصوص برمجية أمنية عالية الجودة ومراجعتها وتحسينها في دقائق إلى ساعات مقابل ساعات إلى أيام. لقد أصبح من الأسهل بالنسبة لنا تنسيق بعض عمليات الأمان والامتثال نتيجة لذلك، ويتعلم الفريق وينمو كل يوم.
يشعر الكثير من الناس بالقلق بشأن الجانب المظلم للذكاء الاصطناعي ولكننا متحمسون حقًا بشأن التكنولوجيا وما يمكن أن تفعله لنا في المستقبل.
3. يتمتع الذكاء الاصطناعي ببعض الفوائد المدهشة.
إن استخدامنا لـ GenAI يتجاوز الاعتبارات الفنية لدعم عمليات الأمان والامتثال. خذ بعين الاعتبار، على سبيل المثال، كيف نستخدم الذكاء الاصطناعي التوليدي لإنتاج وثائق السياسة والنشرات الإخبارية والمحتويات الأخرى.
دعونا نواجه الأمر – نادرًا ما يكون الممارسون الأمنيون أفضل من يتواصلون. تعمل فرق الأمن عادةً خلف الكواليس وتشعر براحة أكبر في التفاعل مع التقنيين الآخرين. ولكن باستخدام الذكاء الاصطناعي التوليدي، يستطيع فريقي تقديم محتوى أفضل عبر المؤسسة واستعادة عشرات الساعات كل شهر.
يمكننا عادةً الاعتماد على الذكاء الاصطناعي لتوليد 80% من الاتصالات، حيث يقوم أعضاء الفريق بتعديل ما يقرب من 20% يدويًا. يمكن للجميع التواصل الآن، وبشكل جيد.
تتم الآن كتابة رسائل البريد الإلكتروني والنشرات الإخبارية بسرعة ولها تأثير أكبر. يتم تجميع مجموعات الشرائح الفعالة معًا في لحظات. أصبحت تقييمات المخاطر والتهديدات أسرع من أي وقت مضى بفضل مستوى قياسي من البيانات التي تسترشد بها كل عملية تقييم. تقوم الآلات بإدارة أعمال الأمن ونسبة متزايدة من العمليات المستمرة. يحرز فريقنا تقدمًا أكبر في العمل “المهم” كل يوم.
في الوقت الذي تتفاقم فيه فجوة المواهب في مجال الأمن السيبراني كل عام، رأينا أن الذكاء الاصطناعي يمكن أن يساعد في تحرير موظفينا لقضاء المزيد من الوقت في عملهم الأساسي.
4. نحن في سباق تسلح للذكاء الاصطناعي.
لقد تطرقت إلى هذا الأمر سابقًا، ولكن من الجدير التكرار: نظرًا لأن الأشرار يعتمدون بشكل متزايد على الذكاء الاصطناعي لتعزيز أنشطتهم الضارة، فمن الحكمة أن تنظر المجموعات الأمنية إلى التكنولوجيا في ضوء إيجابي بنفس القدر.
عندما يتعلق الأمر بالأمن السيبراني، فإن الواقع هو أن الاعتماد ببساطة على الطريقة القديمة لإجراء العمليات الأمنية بطريقة يدوية للغاية، إن لم تكن يدوية بالكامل، لم يعد عمليًا. يجب على المؤسسات الآن الدفاع ضد المحاولات المنسقة والمتسارعة على نفس ناقلات الهجوم المتوسعة باستمرار والتي كانت الجهات الفاعلة السيئة تستغلها بنجاح قبل مساعدة الذكاء الاصطناعي، مع إضافة التهديدات الجديدة التي أنشأتها التكنولوجيا، مثل استنساخ الصوت والصورة، والتزييف العميق. ومنصات وأدوات القرصنة التي تعمل بنظام GenAI (الاحتيالGPT على سبيل المثال لا الحصر، واحدة من العديد من القائمة بالفعل).
ليس هذا فحسب، بل يمكن لأدوات القرصنة المدعومة بالذكاء الاصطناعي أن تتعلم من كل هجوم واستجابات المدافعين، مما يزيد من صعوبة اكتشافها والدفاع ضدها في المستقبل. إذا كانت الهجمات التي يقودها الإنسان قد مرت تحت الرادار من قبل، فإن التنافس ضد الهجمات التي يقودها الذكاء الاصطناعي دون مساعدة الأدوات التي تستفيد من التكنولوجيا للمساعدة في مكافحة هذه المحاولات سيكون أمرًا صعبًا للغاية.
عندما ننظر إلى الجانب الآخر من سباق التسلح ونستفيد من المثال السابق، فقد تم تقديم حلول جديدة تعتمد على الذكاء الاصطناعي والتي تتعلم من المعاملات المتعلقة بالدفع للمساعدة في الدفاع تلقائيًا عن الشركات ضد الهجمات الموجهة نحو التمويل. يؤدي استخدام هذا النوع من الحلول الحديثة المستندة إلى الذكاء الاصطناعي إلى الارتقاء بشكل كبير ببرنامج الشركة للدفاع ضد هجمات الهندسة الاجتماعية الأكثر تطورًا اليوم والتي تستهدف التمويل، وهو مثال على قيام المدافعين برفع قدراتهم لتلبية قدرات المهاجمين أو تجاوزها.
نحن نشارك بشكل أساسي في سباق تسلح بين الأشرار، الذين يستخدمون الذكاء الاصطناعي لاختراق سطح الهجوم المتزايد باستمرار على نطاق واسع، والأخيار الذين يمكنهم الاستفادة من خوارزميات التعلم الآلي، ومعالجة اللغة الطبيعية، وغيرها من الأدوات القائمة على الذكاء الاصطناعي. في الوقت الفعلي جنبًا إلى جنب مع الرؤى السياقية للبقاء في صدارة المهاجمين وتحديد التهديدات والاستجابة لها بسرعة ودقة أكبر – قبل أي حدث تجاري ضخم محتمل.
لقد أصبح للذكاء الاصطناعي تأثير بالفعل على عالم CISO، مع وجود أربعة إدراكات فقط أدركتها شخصيًا حول هذا الموضوع. هناك الكثير في المستقبل، سواء في شكل فرص الهجوم أو الدفاع. أعتقد حقًا أن طول عمر وفعالية برامجنا وفرقنا سيتطلبان أن نتبنى الذكاء الاصطناعي بينما ندير بشكل فعال مخاطره المتطورة. يوفر الذكاء الاصطناعي أيضًا تسليط الضوء على الحياة المهنية: التحدي الفريد والإثارة المتمثلة في المشاركة في معركة متطورة مع موقع فريد لمساعدة الآخرين على مواجهة التحدي والفرص بشكل مباشر.
