أظهرت أخبار تكنولوجيا المؤسسات هذا الأسبوع أن قصة أمان الذكاء الاصطناعي تزداد تعقيدًا. تحتاج المؤسسات إلى الدفاع ضد المخاطر الجديدة التي تنشأ عن الأنظمة ذات القدرات المتزايدة، مع إيجاد طرق لاستخدام الذكاء الاصطناعي كأداة أمنية. وقد تطرقت التطورات الأخيرة إلى كل جزء من تلك المعادلة تقريباً.
جاءت حادثة سلامة الذكاء الاصطناعي التي شملت نماذج بشرية بعد أيام قليلة من حدث مماثل في OpenAI، مما سلط الضوء على التحديات الجديدة حول الاختبار واحتواء الأنظمة المستقلة بشكل متزايد. وعززت الهجمات التي استهدفت التكنولوجيا التشغيلية المخاطر المستمرة التي تواجه البنية التحتية المتصلة، في حين دعا كبار مقدمي الخدمات إلى استخدام الذكاء الاصطناعي كإجراء وقائي. وفي الوقت نفسه، أظهرت أحدث أرباح AWS الاستثمار الهائل المطلوب لبناء البنية التحتية التي تدعم أعباء عمل الذكاء الاصطناعي، مما يؤكد أن الدفع لتوسيع نطاق الذكاء الاصطناعي يخلق تحديات جديدة حول التكلفة والأمن والحوكمة.
إليكم التطورات التي تستحق المشاهدة هذا الأسبوع.
أبرز الأخبار 27-31 يوليو
يأتي حادث اختبار الذكاء الاصطناعي الذي تعرضت له شركة Anthropic في أعقاب حادثة Hugging Face الخاصة بشركة OpenAI
ماذا حدث: يوم 30 يوليو الأنثروبي تم الكشف عنها أن خطأ في التكوين أثناء تقييم السلامة الداخلية سمح لأحد نماذج Claude بالوصول إلى أنظمة تابعة لثلاث مؤسسات في العالم الحقيقي قبل إيقاف الاختبار. جاء هذا الكشف بعد أسبوع من كشف OpenAI أن أحد نماذجها أفلت من بيئة وضع الحماية أثناء الاختبار ووصل إلى البنية التحتية Hugging Face.
لماذا يهم: تسلط هذه الحوادث الضوء على التحدي المتزايد حيث تنتقل الشركات من تجربة الذكاء الاصطناعي نحو نشر أنظمة أكثر استقلالية. تتطلب النماذج القادرة على اتخاذ الإجراءات نيابة عن المستخدمين أساليب جديدة للاختبار والعزل والحوكمة قبل أن يتم ربطها بأمان ببيئات الإنتاج.
تبعت الاستشارة الفيدرالية بشأن تهديدات التكنولوجيا التشغيلية بعد أيام هجمات على مرافق المياه الأمريكية
ماذا حدث: هذا الاسبوع، ظهرت التقارير من الحوادث السيبرانية التي أثرت على مرافق المياه في سبع ولايات أمريكية مرتبطة بالحملة نفسها. جاء ذلك بعد أن قام مكتب التحقيقات الفيدرالي ووكالة الأمن السيبراني وأمن البنية التحتية ووكالة حماية البيئة بتحديث تحذير استشاري مشترك للأمن السيبراني في 22 يوليو بأن الجهات الفاعلة في مجال التهديد كانت تستهدف أجهزة التكنولوجيا التشغيلية المتصلة بالإنترنت، مما أدى إلى توسيع قائمة بائعي أجهزة التحكم المنطقية القابلة للبرمجة المتأثرين ونشر مؤشرات جديدة للتسوية.
لماذا يهم: وتؤكد هذه الحوادث مدى تعرض التكنولوجيا التشغيلية للخطر مع تزايد ترابط الأنظمة الصناعية. بالنسبة للمؤسسات، أصبح أمن التكنولوجيا التشغيلية أقل من مجرد مشكلة تتعلق بالبنية التحتية المتخصصة وأصبح جزءًا أساسيًا من استراتيجية الأمن السيبراني حيث يبحث المهاجمون عن طرق لتعطيل العمليات المادية.
ترتفع AWS بسبب الطلب على الذكاء الاصطناعي مع قيام أمازون بزيادة الإنفاق على البنية التحتية
ماذا حدث: في 31 يوليو، أمازون ذكرت نمت إيرادات AWS بنسبة 37% على أساس سنوي في الربع الثاني، وهو أسرع نمو لها منذ عام 2021، مع استمرار تسارع طلب المؤسسات على خدمات الذكاء الاصطناعي. أعلنت الشركة أيضًا عن إنفاق رأسمالي قياسي على البنية التحتية للذكاء الاصطناعي وتوسيع مركز البيانات، مما دفع التدفق النقدي الحر الإجمالي لشركة أمازون إلى المنطقة السلبية لأول مرة منذ عام 2023.
لماذا يهم: تسلط نتائج AWS الضوء على حجم البنية التحتية للذكاء الاصطناعي الجارية عبر صناعة التكنولوجيا – والضغوط المالية الكامنة وراءها. تنفق شركات التوسع الكبير المليارات لتوسيع القدرة الحاسوبية، لكن الشركات والمستثمرين يركزون بشكل متزايد على ما إذا كانت هذه الاستثمارات ستترجم إلى عوائد قابلة للقياس. بالنسبة لمدراء تكنولوجيا المعلومات، فإن التحدي يتمثل في التحول من بناء البنية التحتية للذكاء الاصطناعي إلى تحديد أين يمكن لهذه الاستثمارات أن تقدم قيمة تجارية ذات معنى.
تدعو المبادرة المدعومة من Nvidia إلى اعتماد أوسع لنماذج الذكاء الاصطناعي المفتوحة في مجال الأمن السيبراني
ماذا حدث: في 27 يوليو، قام تحالف من شركات التكنولوجيا، بما في ذلك Nvidia وMicrosoft، أطلقت مبادرة تشجيع الحكومات والشركات على اعتماد نماذج الذكاء الاصطناعي مفتوحة الوزن لتطبيقات الأمن السيبراني والدفاع الوطني. وقالت المجموعة إن النماذج المفتوحة يمكن أن تحسن الشفافية، وتمكن من إجراء اختبارات أمنية مستقلة، وتقلل الاعتماد على منصات الذكاء الاصطناعي الخاصة.
لماذا يهم: ويعكس هذا الإعلان دفعة متزايدة من شركات التكنولوجيا الكبرى لدعم نماذج الذكاء الاصطناعي ذات الوزن المفتوح للأمن السيبراني والدفاع الوطني. بالنسبة للمؤسسات، فإن القرار بين النماذج المفتوحة والمملوكة سوف ينطوي بشكل متزايد على مقايضات حول الشفافية والرقابة والاعتماد على البائع على المدى الطويل.
من InformationWeek: يستحق القراءة
ستجد ثروة من الأفكار والتحليلات على موقع InformationWeek، ولكن إليك بعض الاختيارات المنسقة من الأسبوع والتي يجب أن تكون في أعلى قائمة القراءة الخاصة بك.
إعادة النظر في محفظة تكنولوجيا المعلومات والميزانية في عصر الذكاء الاصطناعي
تتناول قصة التكنولوجيا الكبرى لهذا الأسبوع كيف أن الارتفاع السريع للذكاء الاصطناعي يجبر مديري تكنولوجيا المعلومات على إعادة التفكير في استثمارات التكنولوجيا، وإعادة التوازن إلى محافظ تكنولوجيا المعلومات واتخاذ قرارات صعبة حول مكان تخصيص الموارد مع تسارع الإنفاق على الذكاء الاصطناعي.
InformationWeek Podcast: كيف يعيد مديرو التكنولوجيا حساباتهم لتصاعد تكاليف الذكاء الاصطناعي
في أحدث حلقة من البودكاست، يستكشف بيل فاس من Booz Allen Hamilton وأميا كانيتكار من Larridin كيفية تكييف استراتيجية الذكاء الاصطناعي مع استمرار ارتفاع تكاليف البنية التحتية والمواهب والتشغيل، ويناقشان ما يحتاج كبار مسؤولي التكنولوجيا إلى مراعاته مع انتقال الذكاء الاصطناعي من التجريب إلى النشر على نطاق أوسع.
كيف هدمت فيلي صوامع البيانات واستخدمت نظم المعلومات الجغرافية لتحفيز إصلاح الإسكان
يوضح كبير المحررين كيلسي زيزر كيف استخدمت فيلادلفيا أنظمة المعلومات الجغرافية وتكامل البيانات بشكل أفضل لتحليل المعلومات المجزأة وتحسين عملية صنع القرار ودعم إصلاح سياسة الإسكان.
كيف يحافظ كبير مسؤولي الذكاء الاصطناعي في ADP على رقابة مشددة على الذكاء الاصطناعي دون إعاقته
يفحص كبير المحررين جواو بيير روث كيفية موازنة ADP بين تجربة الذكاء الاصطناعي والحوكمة، موضحًا كيف يمكن للمؤسسات تشجيع الابتكار مع الحفاظ على الرقابة والسيطرة.
القادمة: مواعيد للمشاهدة
4 أغسطس — تعلن AMD عن أرباح الربع الثاني، مما يوفر وجهة نظر أخرى حول الطلب على أجهزة الذكاء الاصطناعي وما إذا كانت استثمارات البنية التحتية التي تدعم الذكاء الاصطناعي للمؤسسات تترجم إلى نمو مستمر.
4-6 أغسطس – تقام فعاليات Black Hat USA في لاس فيغاس، حيث تجمع بين الباحثين الأمنيين وقادة الصناعة لمناقشة التهديدات التي يحركها الذكاء الاصطناعي ونقاط ضعف البرامج وتحديات تأمين أنظمة المؤسسات المتصلة بشكل متزايد.
7 أغسطس – تم إصدار تقرير الوظائف الأمريكي، والذي يوفر رؤية أوسع للظروف الاقتصادية وبيئة الأعمال التي تشكل قرارات الإنفاق على التكنولوجيا.
من فشل اختبار الذكاء الاصطناعي إلى ارتفاع تكاليف بناء وتأمين البنية التحتية للذكاء الاصطناعي، سلط الضوء هذا الأسبوع على المفاضلات التي تواجهها المؤسسات أثناء انتقالها من تجربة الذكاء الاصطناعي إلى النشر في العالم الحقيقي. ما هي الدروس التي تتعلمها بينما تتنقل مؤسستك بين مخاطر وفرص الذكاء الاصطناعي؟ اسمحوا لنا أن نعرف في [email protected].
