سان فرانسيسكو – مؤتمر RSA – كيف يتم تشغيل الموارد التقنية والقيادة الفكرية في البلاد لفهم ومكافحة التهديدات الصادرة عن الجهات الفاعلة السيئة التي تستخدم الذكاء الاصطناعي وغيره من نواقل الهجوم الرقمي؟
شارك وزير الأمن الداخلي أليخاندرو مايوركاس، ومديرة وكالة الأمن السيبراني وأمن البنية التحتية (CISA) جين إيسترلي، في محادثة منفصلة، بعض الأفكار حول مثل هذه الأمور من المستوى الفيدرالي حيث واصلت إدارة بايدن وقتها في دائرة الضوء في هذا الوقت. مؤتمر RSA لهذا العام مع الكلمات الافتتاحية يوم الثلاثاء.
ناقش مايوركاس، الذي نجا مؤخرًا من حملة عزل مثيرة للجدل ولكن غير مجدية بقيادة الجمهوريين للإطاحة به، موضوع “الأمن الداخلي في عصر الذكاء الاصطناعي” في محادثة ودية مع رومان شودري، الرئيس التنفيذي لشركة الاستخبارات الإنسانية. تشودري هو أيضًا عضو في وزارة الأمن الداخلي مجلس سلامة وأمن الذكاء الاصطناعيوالذي عقد اجتماعه الأول يوم الاثنين.
يضم المجلس الاستشاري الجديد للذكاء الاصطناعي أكثر من 20 عضوًا، من بينهم أيضًا أمثال سام ألتمان، الرئيس التنفيذي لشركة Open AI؛ جنسن هوانغ، الرئيس التنفيذي لشركة NVIDIA؛ وأرفيند كريشنا، الرئيس التنفيذي لشركة IBM. وقال مايوركاس خلال الكلمة الرئيسية: “إننا نبحث في كيفية تسخير الذكاء الاصطناعي لتعزيز أمن البنية التحتية الحيوية وكذلك كيفية الدفاع عن البنية التحتية الحيوية من الاستخدام الضار للذكاء الاصطناعي”.
مع الاعتراف بالاستخدام المتزايد للذكاء الاصطناعي في كل مكان في العديد من الخدمات في جميع أنحاء البلاد، علق مايوركاس على محادثة المجلس الاستشاري حول الاستفادة من هذه التكنولوجيا في الأمن السيبراني. وقال: “إنها مناقشة مثيرة للاهتمام للغاية حول تعريف كلمة “آمنة”. “على سبيل المثال، عندما يتحدث معظم الناس الآن عن الحقوق المدنية، وتداعيات الحريات المدنية، يصنفون ذلك ضمن الاستخدام المسؤول للذكاء الاصطناعي، ولكن ما سمعناه بالأمس كان توضيحًا لحقيقة أن الحريات المدنية، وتداعيات الحقوق المدنية للذكاء الاصطناعي حقًا جزء لا يتجزأ من السلامة.”
وشملت المخاوف التي تطرق إليها مايوركاس الذكاء الاصطناعي الذي يحتمل أن يؤدي إلى إدامة التحيز الضمني. وقال أيضًا إن مجلس الإدارة يركز على التطبيق العملي للذكاء الاصطناعي وتطوير المبادئ التوجيهية التي يمكن أن يكون لها آثار على الحياة الواقعية.
رومان شودري، على اليسار، يستمع للوزير مايوركاس وهو يتحدث في مؤتمر RSA. تصوير جواو بيير روث.
تساءل شودري عن كيفية موازنة وزارة الأمن الداخلي بين استخدامها للذكاء الاصطناعي وحق المواطنين في الخصوصية في سياق التحيز الضمني، خاصة مع أجزاء من السكان من السود أو السمر أو ذوي الدخل المنخفض والذين غالبًا ما يتعرضون لمراقبة مرتفعة. وقال مايوركاس: “ما يميز إدارتنا هو أننا أنشأنا بشكل قانوني مكتبًا للحقوق المدنية والحريات المدنية ومكتبًا للخصوصية”. “إن نفس إضفاء الطابع المؤسسي على تلك المصالح ينتقل إلى مجلس الإدارة، ولهذا السبب لدينا 40٪ من الأعضاء هم من المجتمع المدني.”
لقد استغرق بعض الوقت في الإشادة بالوكالات الفيدرالية الأخرى مثل CISA لعملها في مجال الأمن السيبراني، وكذلك مجتمع الأمن ككل، مع الشركاء الدوليين أيضًا.
وقال مايوركاس: “إن أحد النجاحات التي تحققت على الصعيد الدولي هو، بكل صراحة، قدرة أوكرانيا على إثبات قدرتها على الصمود”. “هذه هي وظيفة عمل CISA في المجال الدولي… ما فعلته CISA محليًا في حملة الدروع. ولذلك أعتقد أنها أعادت تعريف مجتمع الأمن السيبراني ليكون مجتمعًا شاملاً للغاية، ليس فقط على المستوى المحلي ولكن أيضًا على المستوى الدولي.
التركيز على تهديد CISA
اعتلت قيادة CISA، في الماضي والحاضر، المسرح بعد مايوركاس لمناقشة الحاجة إلى المرونة في مواجهة الصراع الجيوسياسي المستمر الذي يمتد إلى الفضاء الإلكتروني.
إيسترلي، الذي أصبح ثاني مدير على الإطلاق لـ CISA في عام 2021، مع جوزيف مين من صحيفة واشنطن بوست الذي أدار محادثة حول “عالم يحترق: اللعب الدفاعي في عالم رقمي… والفوز” والتي ضمت أيضًا كريس كريبس، رئيس المخابرات العامة والشؤون العامة. مسؤول السياسات لدى SentinelOne. كان كريبس المدير السابق لـ CISA، وفي يوم الاثنين، انضم إلى مجلس مراجعة السلامة السيبرانية التابع لـ CISA.
وقال كريبس: “يبدو كما لو أن هناك، على الأقل في حياتنا، بعض الحرائق الجيوسياسية في كل ركن من أركان العالم”. “يكمن التحدي في أنه على عكس العمليات التكنولوجية والإلكترونية والمعلوماتية التي دامت عقدًا من الزمن، فإن المعلومات المضللة جزء لا يتجزأ من الصراع والعقيدة العسكرية”.
وقال أيضًا إنه عند التحدث مع الشركات حول مثل هذه الأمور، يصبح من الواضح بشكل متزايد أن مخاطر الأعمال والمخاطر الجيوسياسية متشابكة. قال كريبس: “لا يمكنك فصلهما عن بعضهما البعض”. “وهذا ما يتجلى حقًا في محركات المخاطر الرئيسية الثلاثة لدينا.”
-
وقال إن مساحة الجهات التهديدية تتوسع من منظور الدولة القومية، وكذلك من منظور المجرمين الإلكترونيين والناشطين في مجال القرصنة الإلكترونية.
-
يتم شحن التقنيات بطرق تؤدي إلى خلق مخاطر ونقاط ضعف، ويتم تكوينها ونشرها بطرق معقدة للغاية. قال كريبس: “إنه يذكرنا بشكل مخيف بفيلم نيورومانسر لويليام جيبسون”. “عندما تحدث عن الفضاء الإلكتروني، قال “التعقيد الذي لا يمكن تصوره”، وهذا هو الحال الآن لنشر وإدارة مؤسسة كبيرة.”
-
وقال: “نحن لا نجلس في مكاننا أو نقف في مكاننا لأن التكنولوجيا الجديدة تظهر على أساس منتظم”. وقال كريبس، نقلاً عن إطلاق ChatGPT، إن الذكاء الاصطناعي ظهر على الساحة من منظور التوفر العام في نوفمبر 2022. وقال: “إننا نطبق هذه التقنيات الجديدة بينما لا نزال نكافح من أجل كيفية التعامل مع الجيل الأخير من السحابة ذات الحجم الكبير”. “لذا، يبدو أن هناك نوعًا من المخاطر في كل زاوية نواجهها، ليس فقط اليوم، ولكن بصراحة بقية حياتنا.”
ناقش إيسترلي بعض الجهود الحالية التي تبذلها CISA ومجالات التركيز على مشهد التهديدات، مثل برامج الفدية. وقالت: “لقد أصبح هذا عملاً بمليارات الدولارات، بل تريليون دولار حقًا”. “هناك بعض التقديرات التي تشير إلى أن تكلفة الجرائم الإلكترونية العالمية ستتجاوز 10 تريليون دولار بحلول العام المقبل.”
التهديد الآخر الذي سلطت إيسترلي الضوء عليه، وأدلت بشهادته في يناير/كانون الثاني، هو الجهات الفاعلة السيبرانية الصينية – فولت تايفون – التي قالت إنها تتسلل إلى البنية التحتية الحيوية للولايات المتحدة. “ليس للتجسس. ليست سرقة البيانات. وقال إيسترلي: “ليس لسرقة الملكية الفكرية، ولكن على وجه التحديد لشن هجمات تخريبية ومدمرة في حالة نشوب صراع كبير في مضيق تايوان، والذي يتوقع العديد من الخبراء حدوثه في السنوات الخمس المقبلة”. “وهذا عالم يمكن أن تؤثر فيه حرب كبرى في آسيا على سلامة وأمن سبل عيش الأميركيين هنا في الداخل من خلال انفجار خطوط الأنابيب، وتلوث مرافق المياه، وقطع الاتصالات، وخروج وسائل النقل عن مسارها”.
مدير CISA جين إيسترلي في مؤتمر RSA 2024. تصوير جواو بيير س. روث
وقالت إن تهديد إعصار فولت مرتبط بعقيدة الصين المعلنة بوضوح للتحريض على الذعر المجتمعي والفوضى وردع قدرة الولايات المتحدة على حشد قوتها العسكرية ومواطنيها. “إنه حقًا مختلف من حيث النوع عن أي شيء رأيته على مدى العقود العديدة الماضية.” إيسترلي، عقيد متقاعد بالجيش متخصص في الاستخبارات العسكرية، لديه سيرة ذاتية تتضمن العمل كمساعد خاص للرئيس أوباما ومدير أول لمكافحة الإرهاب في مجلس الأمن القومي، بالإضافة إلى عمله نائبًا لمدير مكافحة الإرهاب في وكالة الأمن القومي.
وقالت: “لقد نظرنا دائمًا إلى الصين، ذات الموارد العالية والمتطورة، باعتبارها تهديدًا للتجسس”. “هذا تهديد مختلف من حيث النوع، ولهذا السبب نتحدث كثيرًا عن المرونة ولماذا نتحدث عن الأمان حسب التصميم.”
ومضى إيسترلي ليوضح أن القاسم المشترك بين برامج الفدية والجهات الفاعلة في مجال التهديد الصيني التي تتسلل إلى البنى التحتية الحيوية في الولايات المتحدة هو أنهم يستفيدون إلى حد كبير من العيوب والعيوب العامة المعروفة.
“لماذا؟ وقالت: “لأنه على مدى أكثر من 40 عامًا، فإن التكنولوجيا التي تم إنشاؤها والتي تدعم الآن البنية التحتية الحيوية التي يعتمد عليها الأمريكيون في كل ساعة من كل يوم، غير آمنة بطبيعتها”. “لقد تم إنشاؤه من أجل سرعة الوصول إلى السوق. تم إنشاؤه لميزات رائعة. لم يتم إنشاؤه لوضع الأمن في المقام الأول، ولهذا السبب، بصراحة، لدينا صناعة للأمن السيبراني تبلغ قيمتها مليارات الدولارات، ولهذا السبب لدينا وكالة للأمن السيبراني لأننا جميعًا نستخدم تكنولوجيا غير آمنة.
الوعد بالتصميم الآمن
وقالت إيسترلي إنها تريد الاستمرار في تحفيز CISA آمن حسب التصميم وقالت إن هذا الجهد يدور حول ضمان قيام الشركات المصنعة للتكنولوجيا ببناء وتصميم واختبار وتقديم منتجات تقنية آمنة حسب التصميم في المقام الأول.
على الرغم من أن برنامج Secure by Design يعد تعهدًا للمصنعين وليس تفويضًا، إلا أن إيسترلي قال إن المبادئ ضرورية على المدى القريب لرفع مستوى الدفاعات السيبرانية الأمريكية، خاصة وأن الجهات الفاعلة في مجال التهديد لا تظهر أي علامة على التراجع. وقالت: “نحن الآن نسير على مسار أصبحت فيه التكنولوجيا التي نعتمد عليها مهمة للغاية في حياتنا اليومية”. “ليس لدينا وقت للانتظار 18 عامًا، ولكن كيف يمكننا تعويض عقود وعقود من عدم وجود معايير تكنولوجية دنيا للأمن السيبراني؟ حسنًا، يجب أن يكون هناك اعتراف عبر النظام البيئي بأكمله بأننا بحاجة إلى القيام بذلك معًا من أجل الدفاع الجماعي عن الأمة، والخبر السار هو أننا بدأنا نرى تغييرًا حقيقيًا.
وقال إيسترلي إن هذا يتم جزئيًا من خلال استخدام القوة الشرائية للمطالبة بأن تكون التكنولوجيا المشتراة من الشركات المصنعة آمنة قدر الإمكان. وقالت: “لهذا السبب نستخدم لوائح الاستحواذ الفيدرالية الخاصة بنا”. “لهذا السبب نستخدم نموذج تصديق البرنامج الذي يجب أن يتم التوقيع عليه من قبل الرؤساء التنفيذيين أو من ينوب عنهم، ولهذا السبب قمنا بتنفيذ هذا التعهد الذي سيتم توقيعه، على ما أعتقد غدًا، من قبل أكثر من 60 شركة تكنولوجيا تقول “” نحن ملتزمون باتخاذ هذه الخطوات للتأكد من أن النظام البيئي أكثر أمانًا مما هو عليه اليوم.
