الأمن السيبراني

كيف يمكن لمديري تكنولوجيا المعلومات التغلب على نموذج الذكاء الاصطناعي


وسط إصدارات سريعة لنماذج الذكاء الاصطناعي، وعمليات الإيقاف اليومية، عدم اليقين الجيوسياسيوالتكاليف الرمزية ومخاطر الامتثال وضمانات خدمة البائعين غير المتكافئة، يواجه مديرو تكنولوجيا المعلومات واقعًا جديدًا ومثيرًا للقلق في بعض الأحيان: لقد أصبح تقلب نماذج الذكاء الاصطناعي مشكلة تشغيلية، وليست مجرد مشكلة تقنية.

التحقق من صحة نماذج الذكاء الاصطناعي – والتأكد من أنها تعمل مع الأنظمة الحالية – يستهلك وقتًا وموارد كبيرة.

وقال سكوت ليكينز، كبير مسؤولي هندسة الذكاء الاصطناعي في الولايات المتحدة والعالم في شركة برايس ووترهاوس كوبرز الاستشارية: “نادرًا ما يكون إيقاف النماذج مجرد حدث تكنولوجي”. “يمكن أن يؤدي ذلك إلى تفاعل متسلسل عبر فرق الحوكمة والمخاطر والامتثال والتحقق من صحة النماذج والأمن والتشغيل.”

التحدي هو أكثر من مجرد استبدال نموذج بآخر. مثل يتم إدخال الذكاء الاصطناعي في تطبيقات الأعمال والعمليات، تحتاج المؤسسات إلى بنيات وأطر حوكمة تستوعب التغييرات المستمرة في النماذج دون تعطيل الأعمال.

متعلق ب:الغرفة التي يحدث فيها الحدث: لماذا يجب على مديري تكنولوجيا المعلومات جعل الذكاء الاصطناعي عضوًا في الفريق

وأوضح ليكينز أن هذه التبعية “تمتد إلى ما هو أبعد من واجهة برمجة التطبيقات”. واليوم، أصبحت البنية المرنة وإطار الإدارة القوي لا تقل أهمية عن أداء النموذج الأولي.

ونتيجة لذلك، يتجه مديرو تكنولوجيا المعلومات إلى استراتيجية متعددة النماذج تعتمد على طبقات التجريد والتنسيق للحماية من انقطاع تكنولوجيا المعلومات والأعمال. إنهم يستخدمون أيضًا طرق التحقق من الصحة، وسجلات النماذج، وعناصر التحكم في الموجه والإصدار، وإدارة دورة الحياة، والتوجيه المراعي للتكلفة لمطابقة النماذج بشكل أفضل مع حالات الاستخدام.

المواطنون النموذجيون

تتمتع المنظمات بسيطرة شبه معدومة على كيفية قيام مقدمي الخدمات مثل الأنثروبي، وOpenAI، وجوجل تحديث أو التقاعد أو استبدال نماذجهم. في كثير من الحالات، يقوم موفرو الذكاء الاصطناعي بإيقاف الإصدارات في غضون أسابيع. ومع ذلك، فإن العديد من الشركات – وخاصة تلك العاملة في الصناعات الخاضعة للتنظيم، بما في ذلك البنوك، وشركات الأدوية الحيوية، والطيران، والرعاية الصحية – تحتاج إلى أشهر للتحقق من صحة التغييرات بشكل كامل.

قد تكون المنظمات في الصناعات غير المنظمة عرضة للخطر لأسباب مختلفة. بدون حواجز حماية صارمة ومراجعات إلزامية – ومع انتشار الذكاء الاصطناعي عبر وظائف مثل خدمة العملاء والمبيعات والدعم والتسويق والعمليات – يمكن أن تخرج الأمور عن مسارها بسرعة. عندما يقوم موفر الذكاء الاصطناعي بإهمال نموذج ما، يمكن أن تتعطل طرق التحقق، ويمكن أن تتوقف سير العمل، ويمكن أن ترتفع المخاطر الأمنية.

يقول أشوين بهافي، الشريك الأول في ممارسة التكنولوجيا في مجموعة بوسطن الاستشارية: “إذا لم تكن قد قمت باختبار النموذج بشكل كافٍ، فقد يفعل شيئًا ليس من المفترض أن يفعله”. وعلى الرغم من أنه قد يكون من المغري استخدام تثبيت الإصدار وبنود العقد لضمان نوافذ الانتقال، إلا أن هذه الأدوات يمكن أن تأتي بنتائج عكسية لأن النماذج يمكن أن تنتج نتائج مختلفة من دقيقة إلى أخرى – ويمكن أن يؤدي تثبيت الإصدار إلى خنق الابتكار.

متعلق ب:لماذا يقدم محللو الذكاء الاصطناعي إجابات واثقة على الأسئلة الخاطئة

ويحمل التقلب النموذجي أيضًا عواقب مالية. استهلاك الرمز المميز، يمكن أن تؤدي رسوم الاستدلال والاختبارات المتكررة واسعة النطاق أثناء إعادة التحقق إلى ارتفاع التكاليف. وفي الأشهر المقبلة، قد يتفاقم الوضع إذا رفع مقدمو الخدمات الحدودية أسعارهم. وقال بهافي: “في الوقت الحاضر، يتم دعم الكثير من التكاليف من خلال الإعانات التي من غير المرجح أن تستمر”.

هناك أيضًا سؤال حول ما إذا كان النموذج سيكون موجودًا عند الحاجة إليه. على سبيل المثال، في 12 يونيو، الأنثروبي الوصول سحبت إلى نماذجها الرائدة، Fable 5 وMythos 5، للامتثال لضوابط التصدير الحكومية الأمريكية. امتد الاضطراب الذي أعقب ذلك عبر المناطق والشركات حتى تم رفع التعليق في 30 يونيو.

ومما يزيد الأمور تعقيدًا أن ضمانات الخدمة واتفاقيات مستوى الخدمة المستخدمة على نطاق واسع في صناعة التكنولوجيا غالبًا ما تكون غير موجودة في مجال الذكاء الاصطناعي، حيث تتأخر في كثير من الأحيان التزامات وقت التشغيل والتعافي من الكوارث وحماية فقدان البيانات.

لا يؤدي انقطاع النموذج إلى تعطيل التطبيق فحسب؛ وأشار كاي واينر، وهو مستشار مستقل مقيم في ألمانيا، إلى أنه يمكن أن يؤدي إلى تدمير سير العمل أو عملية الأعمال أو سلسلة الأدوات بأكملها. وعلى الرغم من أن الاستضافة الذاتية قد تبدو خيارًا قابلاً للتطبيق، إلا أن هذا يمكن أن يؤدي إلى مجموعة منفصلة من المشكلات، بما في ذلك العثور على المواهب لإدارة الأنظمة.

متعلق ب:تظهر أرباح Nvidia سبب حاجة مديري تكنولوجيا المعلومات إلى التفكير خارج نطاق وحدة معالجة الرسومات

البناء من أجل التغيير المستمر في الذكاء الاصطناعي

تعمل هذه القوى على إعادة تشكيل الطريقة التي تتعامل بها المؤسسات مع إدارة نماذج الذكاء الاصطناعي. إن ما كان في السابق قرارًا يتم التعامل معه من قبل المهندسين – اختيار البائعين والبرمجيات – أصبح الآن يقع مباشرة على مكتب مدير تكنولوجيا المعلومات.

بينما يتعمق مدراء تكنولوجيا المعلومات في تعقيدات إدارة نموذج الذكاء الاصطناعي، يكتشفون أنها ليست تكنولوجيا معلومات كالمعتاد. في حين أنه من المنطقي عمومًا – ويوفر الدولارات – توحيد الأجهزة والبرامج، فإن الذكاء الاصطناعي مختلف: فإطار العمل متعدد النماذج ومتعدد البائعين عادةً ما يقلل المخاطر بينما يسمح للمؤسسة بتعيين النماذج الأكثر كفاءة وفعالية من حيث التكلفة لمشاريع ومهام محددة.

ويفشل أيضاً إطار الحوكمة الذي يناسب الجميع. بدلاً من ذلك، من الضروري بناء طبقات التنسيق والتجريد الموجودة خارج نماذج الذكاء الاصطناعي المحددة. وهذا يجعل من الممكن مزامنة وظائف الحوكمة والأمن والذكاء الاصطناعي عبر النماذج والمستخدمين – وإجراء التغييرات ديناميكيًا. وأشار واينر إلى أنه ليست هناك حاجة لتحديث ضوابط الشركة في كل مرة يتم فيها تحديث النموذج أو استبداله من قبل مؤسسة ما.

خالية من القيود التي يفرضها نموذج واحد أو إطار عمل صارم للغاية، يمكن للمؤسسة التكيف مع التغيير وتوصيل نموذج الذكاء الاصطناعي المناسب للمهمة الصحيحة. يتضمن ذلك استخدام نماذج منخفضة التكلفة ومفتوحة المصدر مثل DeepSeek وMistral دون التكيف المستمر مع بيئة تكنولوجيا المعلومات بأكملها. وكما أوضح ليكينز: “تريد كل مؤسسة الوصول إلى الابتكار، ولكن ليس كل عبء عمل يتطلب أحدث نموذج في اليوم الأول”.

لا يلغي إطار عمل الذكاء الاصطناعي المرن الحاجة إلى إدارة النماذج، ولكنه يقلل من التعقيد. عندما تفصل طبقات التجريد والتنسيق بين منطق الأعمال وسير العمل والحوكمة والمطالبات وتعريفات البيانات والتوجيه، يتوقف الإهمال عن أن يكون تهديدًا ملموسًا. من الممكن تبديل النماذج بسرعة.

وقال ليكينز: “يمكن لطبقة التجريد المصممة جيدًا أن تقلل بشكل كبير من الاعتماد التشغيلي على أي مزود نموذج واحد”.

من خلال أساس قوي للذكاء الاصطناعي، يستطيع مدير تكنولوجيا المعلومات توصيل أدوات أخرى تعمل على تحسين الرؤية والمرونة. يتضمن ذلك سجلاً نموذجيًا يعرض المنتجات المعتمدة والمالكين وحالات الاستخدام والإصدارات وملفات تعريف التكلفة وخطط الترحيل. جنبا إلى جنب مع استخدام اختبار نمط الانحدار، يمكن لكبير مسؤولي المعلومات أو كبير مسؤولي الذكاء الاصطناعي تقييم النموذج الجديد أو المحدث وإجراء التعديلات اللازمة قبل تقديمه إلى المؤسسة بأكملها.

قال ليكينز: “التجريد ليس درعًا سحريًا”. “يمكن أن يؤدي ذلك إلى تبسيط عملية استبدال النموذج، لكنه لا يلغي الحاجة إلى فهم كيفية أداء النموذج الجديد، أو كيف تختلف مخرجاته، أو ما إذا كان يقدم اعتبارات مخاطر جديدة.”

كيف يوازن مديرو تكنولوجيا المعلومات بين الاستقرار والابتكار

يدرك مدراء تقنية المعلومات أن الذكاء الاصطناعي ليس سباقًا سريعًا؛ إنها رحلة مستدامة. من الضروري تحقيق التوازن بين الاستقرار الذي يوفره تثبيت الإصدار ونوافذ الانتقال المضمونة مع مزايا النماذج الأكثر تقدمًا.

وقال بهاف: “أنت لا تصمم لفترة استقرار مدتها خمس سنوات. أنت تصمم لتحقيق أقصى قدر من الأداء مع القدرة على الترقية حسب ما هو منطقي”.

يقول بهافي إن المنظمات التي تحصل على المعادلة الصحيحة تتجنب مشاكل التحقق المستمر والتكامل. إنهم قادرون على إجراء تغييرات بسرعة وفتح المزيد من الابتكار وعائد الاستثمار.

واختتم كلامه قائلاً: “يمثل هذا العالم الجديد فرصة حقيقية للمؤسسات التي كافحت تاريخياً مع التكنولوجيا لتقفز إلى الصدارة”.

هل تتعامل مع نموذج الذكاء الاصطناعي في مؤسستك؟ كيف يمكنك تحقيق التوازن بين الاستقرار والوصول إلى أحدث الابتكارات؟ بريد إلكتروني [email protected] واسمحوا لنا أن نعرف.





Source link

شاهد أيضاً
إغلاق
زر الذهاب إلى الأعلى