الأمن السيبراني

CTO: يحتاج وكلاء Enterprise AI إلى المراقبة والإشراف


ومع انتشار الذكاء الاصطناعي الوكيل في مختلف الصناعات، فإن الإثارة حول قدرته على تسريع سير العمل التشغيلي وتقديم نتائج محسنة أمر له ما يبرره. ومع ذلك، فمن العدل أن نتساءل عما إذا كان بإمكان شركات المؤسسات البقاء على قدم المساواة مع وكلاء الذكاء الاصطناعي سريعي الحركة.

هل تقوم الشركات بمراقبة المهام والتعلم من القرارات التي تتخذها وتثقيف عملاء الذكاء الاصطناعي؟

يعمل العديد من وكلاء الذكاء الاصطناعي الذين يفكرون ويتعاونون ويخططون ويتصرفون بشكل مستقل عبر أعمال الشركة على تغيير صناعة السفر والضيافة بشكل جذري. في easyJet، نتوقع أنه خلال السنوات الأربع المقبلة، سيتم إجراء أكثر من 60% من جميع المعاملات عبر الإنترنت من خلال هؤلاء الوكلاء. وحتى لو ثبت أن هذا الرقم غير دقيق إلى حد كبير، فإنه يشير بوضوح إلى اتجاه السفر الذي يتعين علينا أن نتبعه.

وفي الوقت نفسه، بينما تسارع الشركات إلى نشر وكلاء مستقلين، لا يمكن التغاضي عن سؤال بالغ الأهمية: هل تفهم المؤسسات السبب الذي يجعل وكلاءها مستقلين؟ وكلاء الذكاء الاصطناعي يتخذون القرارات يصنعونها؟

متعلق ب:الأسبوع من 24 إلى 28 أغسطس: ماذا حدث، ما يهم، ما هي الخطوة التالية

إن الوصول إلى هذه الإجابة لا يقل أهمية عن القرار المستقل الذي يعتمد على الذكاء الاصطناعي نفسه.

تبدأ المساءلة بالتفسير

في أ مسح 2025 من قبل MACH Alliance، قال 88% من 600 من كبار صناع القرار في مجال تكنولوجيا المؤسسات إنهم يواجهون عوائق أمام تنفيذ الذكاء الاصطناعي. على رأس قائمة العوائق: المخاوف المتعلقة بخصوصية البيانات وأمنها (45%) والمساءلة (38%).

تقوم العديد من الشركات بنشر عملاء الذكاء الاصطناعي دون إنشاء استراتيجية للمراقبة والتفسير أولاً. وهذا يشبه تعيين فريق كامل، ومنحهم السلطة الكاملة لاتخاذ القرار، وعدم مراجعة عملهم أبدًا. كما أنه يسلط الضوء على التحول في أهمية التقنيات مثل هندسة المنصات داخل المؤسسة، حيث يصبح نموذج النشر المتسق والمجهز والآمن للوكلاء شبكة أمان رئيسية.

في صناعة السفر، عندما يقوم الوكيل بإعادة حجز راكب على رحلة بديلة، أو تعديل الأسعار ديناميكيًا، أو الإبلاغ عن مشكلة تتعلق بالصيانة، تكون المنظمة مسؤولة عن هذه النتيجة – سواء كان الإنسان متورطًا أم لا.

ولهذا السبب تحتاج المؤسسات إلى تطبيق نفس الصرامة في تدقيق قرارات الذكاء الاصطناعي التي تطبقها على الضوابط المالية أو الامتثال للسلامة. ويعني ذلك تسجيل تفكير الوكيل في كل خطوة، وإنشاء لوحات معلومات تعرض أنماط القرار بمرور الوقت، وإنشاء حلقات تعليقات حتى يمكن إعادة تدريب الوكلاء عندما تنحرف مخرجاتهم عن نية العمل.

لماذا يهم هذا، وخاصة في الصناعات المنظمة

الصناعات المنظمة مثل السفر والضيافة تحمل التزامًا مرتفعًا. تعمل شركات الطيران ضمن أطر صارمة للسلامة وحماية المستهلك وخصوصية البيانات، ولا يحصل وكلاء الذكاء الاصطناعي على إعفاء من أي منها. عندما يتعامل هؤلاء الوكلاء مع التسعير الديناميكي، أو قرارات تعويض العملاء، أو تحسين جدولة الطاقم، أو إعادة الحجز في الوقت الفعلي أثناء الاضطرابات، فإن كل قرار يحمل بعدًا للامتثال.

متعلق ب:تكافح ضمان الجودة لمواكبة تطوير تطبيقات الذكاء الاصطناعي

في easyJet، يتفاعل هؤلاء الوكلاء مع تدفقات الحجز وتفاعلات خدمة العملاء والخدمات اللوجستية التشغيلية، ولكل مجال من هذه المجالات سياقه التنظيمي الخاص. يحتاج الوكيل الذي يعمل على تحسين عوامل التحميل إلى الالتزام بلوائح التسعير. يجب أن يعمل الوكيل الذي يتعامل مع اتصالات الركاب ضمن أطر حقوق المستهلك. لا يشكل الإشراف عائقًا أمام أداء الذكاء الاصطناعي. وهذا ما يجعل نشر الذكاء الاصطناعي في هذه البيئات قابلاً للتطبيق.

هناك أيضًا اعتبار عملي عملي. يميل الوكلاء الذين لا يخضعون للمراقبة إلى تطوير مشكلات أداء دقيقة تتفاقم بمرور الوقت. تعد حلقات ردود الفعل النظيفة عاملاً رئيسياً يفصل بين المؤسسات التي تحقق نتائج أفضل في مجال الذكاء الاصطناعي بمرور الوقت وتلك التي تستقر أو تتراجع.

ما تتيحه الهندسة المعمارية القابلة للتركيب

إحدى أهم الملاحظات التي شوهدت خلال رحلتنا في مجال الذكاء الاصطناعي هي أن المؤسسات التي لا تسعى جاهدة لتصبح جاهزة للذكاء الاصطناعي في الوقت الحالي هي تلك التي اتخذت القرارات الهيكلية الصحيحة منذ سنوات. لم يتم إنشاء بنية أساسية قابلة للتركيب مع وضع الذكاء الاصطناعي الوكيل في الاعتبار في مؤسستي. تم إنشاؤه لأن الأنظمة المعيارية السحابية الأصلية التي تعتمد واجهة برمجة التطبيقات أولاً هي ببساطة أنظمة أفضل، وما نتج عن هذا الاستثمار هو إطار عمل يحتاج فيه وكلاء الذكاء الاصطناعي إلى العمل بفعالية.

متعلق ب:الأسبوع من 20 إلى 24 يوليو: ما حدث، ما المهم، ما هي الخطوة التالية

الشركات التي استثمرت في المؤسسات القابلة للتركيب لم تكن تستعد للذكاء الاصطناعي. لقد كانوا ينشرونها بالفعل.

تسمح المكونات المعيارية للمؤسسات بتوصيل وكلاء الذكاء الاصطناعي في الحجوزات وخدمة العملاء والعمليات دون إعادة كتابة النظام. ويعني تصميم API-first أن الوكلاء يمكنهم التواصل مع بعضهم البعض من اليوم الأول، وهو أمر ضروري للتنسيق عبر مسارات العمل المعقدة. تتوسع البنية التحتية السحابية الأصلية تلقائيًا للتعامل مع المتطلبات التي يفرضها الذكاء الاصطناعي على معالجة البيانات في الوقت الفعلي، خاصة خلال فترات ذروة الحجز أو العمليات غير المنتظمة.

إن الضرورة الاستراتيجية ليست افتراضية. وبالنظر إلى التحول المذكور سابقًا إلى المعاملات الوكيلة بحلول عام 2030، فإن الجدول الزمني أقرب مما يبدو. إن المنظمات التي لا تزال تخطط لخرائط طريق التحول بدلاً من نقل الوكلاء إلى الإنتاج، تتخلف عن الركب بطرق سيكون من الصعب للغاية التعافي منها.

بالنسبة لشركات الضيافة والسفر التي تدير العشرات، أو في النهاية المئات، من الوكلاء عبر الوظائف التشغيلية ومواجهة العملاء، أ العمارة المركبة هو الفرق بين العملاء الذين يعملون معًا والوكلاء الذين يخلقون الفوضى.

مع تطور قدرات الوكيل، يمكن للمؤسسات التي لديها مجموعات مكدسة قابلة للتركيب تبديل المكونات الفردية أو ترقيتها أو توسيعها دون إعادة البناء من الألف إلى الياء. تسمح هذه المرونة للمؤسسة بمراقبة أداء الوكيل، وتحديد القرارات التي تحتاج إلى تحسين، وإجراء التعديلات المستهدفة بسرعة.

إن تمكين البنية الصحيحة تحت إشراف الوكلاء والانضباط لفهم كل قرار يتخذه وكلاءهم على طول الطريق سيساعد الشركات على التحليق أعلى.

هل بنية تكنولوجيا المعلومات الخاصة بك جاهزة لوكلاء الذكاء الاصطناعي المستقلين، أم أنك لا تزال في وضع التخطيط؟ شارك تجربتك مع [email protected].





Source link

زر الذهاب إلى الأعلى