من المعتقد الشائع أن عملاء الذكاء الاصطناعي يمكنهم أتمتة أي شيء تقريبًا. لكن هذا الافتراض غير الواقعي من الممكن أن يضع الشركات على مسارات غير واقعية بنفس القدر؛ جارتنر يتنبأ أن 40% من مشاريع الذكاء الاصطناعي سوف تنهار بحلول العام المقبل. والإجماع السائد هو أن هذا النموذج لا يفسر على الإطلاق سبب فشل هذه المشاريع.
منظمة العفو الدولية تنهار المشاريع عندما تنتقل الفرق مباشرة إلى بناء الوكلاء دون تحديد شكل النجاح – أو ما يحدث عندما تسوء الأمور على نطاق واسع روهيت بودوفال، وهو قائد في مجال هندسة الثقة والسلامة ويعمل في أحد متاجر التجزئة الكبرى وهو عضو في معهد النزاهة العالمي للأبحاث، حيث شارك في تأليف استجابات السياسة المتعلقة بسلامة الذكاء الاصطناعي وخصوصية الأطفال على الإنترنت.
و الأمور تسوء في كثير من الأحيان. وقال “المسار التصحيحي هو البدء بالعملية وليس بالوكيل”. مدحت جلال، نائب الرئيس الأول للهندسة في شركة Appian Corp، وهي شركة تقدم أتمتة عمليات الذكاء الاصطناعي.
أين يخطئ عملاء الذكاء الاصطناعي؟
“في معظم حالات الفشل التي نراها، قامت التكنولوجيا بالضبط بما طلب منها القيام به؛ والمشكلة هي ماذا قال: “لقد طُلب منه القيام به”. جاستن بولس، CTO في Resultant، وهي شركة استشارات البيانات والتكنولوجيا والذكاء الاصطناعي.
وضع وكلاء للعمل في العمليات الحالية وتوقع نتائج معادلة – أو أفضل – مما يمكن أن يحققه الموظفون هو جهد غير واقعي وغير ناجح إلى حد كبير.
وأوضح أن معظم عمليات سير العمل في المؤسسات لم يتم تصميمها مطلقًا للتنفيذ الآلي، لذا فهي عادةً “تتضمن حلولاً بديلة غير موثقة ومعرفة قبلية”. بريا ساوانت، نائب الرئيس الأول للهندسة في ASAPP، مزود وكلاء الذكاء الاصطناعي لمراكز اتصال المؤسسات. “إن نشر العميل في تلك البيئة لا يحل الفوضى، بل يجعله يفشل بشكل أسرع وعلى نطاق واسع.”
بمعنى آخر، يمكن أن ينحرف عمل الوكيل عندما لا تكون العملية واضحة أو تكون البيانات الداعمة لها سيئة أو غير مكتملة. وأوضح أن العديد من مشاريع الوكلاء تفشل لأن “سير العمل الذي يتم تشغيله آليًا لم يكن أبدًا نظيفًا كما اعتقد فريق المشروع”. ريشي بهارجافا، أحد مؤسسي شركة Descope، الشركة المصنعة لمنصة مصادقة العملاء والوكلاء.
وكما وصفها بهارجافا، سيواجه الوكيل الجديد في الوقت نفسه قضايا مثل الملكية الغامضة، والاستثناءات غير الموثقة، والخطوات التي تعتمد على المعرفة المؤسسية لشخص ما – مع نتائج كارثية محتملة.
حتى لو كان الوكيل قادرًا على التنقل في سير العمل بشكل جيد بما يكفي لإنتاج نتيجة، فقد لا تكون هذه النتيجة هي التي تم توجيهه لتحقيقها. وقال إن معظم نماذج تشغيل المؤسسات “تعامل الذكاء الاصطناعي كنقطة نهاية للمعاملات”. سيخار ساروكاي، المؤسس المشارك والرئيس التنفيذي لشركة ChatSee.ai. وفقًا لساروكاي، عندما يرسل المستخدم طلبًا ويعرض النموذج إجابة معقولة، يعتبر هذا التفاعل ناجحًا. لكن معقول ليست هي نفسها دقيق.
وأضاف ساروكاي: “ينهار هذا النموذج عندما يبدأ الوكلاء في تفسير النوايا، واستخدام الأدوات واتخاذ الإجراءات عبر سير العمل”. وذكر على سبيل المثال لا الحصر:
-
وكيل خدمة العملاء الذي يستجيب بطلاقة ولكنه يفشل في تصعيد التذكرة؛
-
وكيل مالي يستخرج المعلومات بشكل صحيح لكنه يطبق سياسة استثناء خاطئة؛ أو
-
وكيل ترميز يقوم بإنشاء تعليمات برمجية صالحة أثناء تعديل المستودع الخاطئ.
وقال ساروكاي: “في كل حالة، يبدو أن التكنولوجيا تعمل، ولكن نتائج الأعمال خاطئة”.
العثور على إصلاحات لإدارة العمليات الوكيلة
هذا لا يعني أن الذكاء الاصطناعي الوكيل ليس له تطبيق، بل يعني فقط أنه موجود لا يمكن نشرها ضمن أنظمة غير مهيأة. قد تحتاج بعض العمليات إلى إعادة تصميم، وقد تحتاج عمليات أخرى إلى استخراج جزء واحد أو أكثر لتوضيح مهمة العميل بشكل أفضل، في حين يجب التخلص من عمليات أخرى أو استبدالها بالكامل.
“تحتاج الشركات إلى تحديد العمل، ودمج البيانات والأنظمة المحيطة به، إنشاء حواجز الحماية وحقوق اتخاذ القرار، وقال جلال: “ثم نطبق الحكم الذاتي على مراحل خاضعة للرقابة”.
وبدون وجود الضوابط المناسبة في كل مرحلة، فإن الوكلاء سيستخدمون ما لديهم بكل معنى الكلمة – ويدهسون ما لا يملكونه. وقال بودوفا إن الوكلاء “لا يملأون الفجوات”. وأضاف أنه إذا لم تخبرهم صراحة بما يجب عليهم فعله في سيناريو معين، “فإما أنهم سوف يهلوسون بالإجابة أو يفعلون شيئًا لا يمكن التنبؤ به”.
إن توفير الضوابط المناسبة يعني تطوير أكثر من مجرد سياسات وبعض القواعد التي يجب على الوكلاء اتباعها.
إن عبارة “لدينا حواجز حماية” هي “الجملة الأكثر خطورة” في الذكاء الاصطناعي للمؤسسات، وفقًا لـ راج كونيرو، المؤسس والرئيس التنفيذي لشركة Kore.ai، وهي منصة ذكاء اصطناعي مؤسسية وشركة ذكاء اصطناعي وكيلة. وأضاف كونيرو أن “المطلوب هو أساس يعالج وهم الحكم ويوفر سيطرة حقيقية”. تكمن جذور هذا الأمر في حكمة قديمة لإبقاء الأعمال على المسار الصحيح: نظام KISS (أبقِ الأمر بسيطًا يا غبي)، والذي يعمل بشكل جيد جدًا في استخدام الوكلاء بنجاح. ولسوء الحظ، تميل الفرق إلى توجيه الوكلاء نحو “المشكلة المثيرة للإعجاب والتي تتطلب قدرًا كبيرًا من الحكم والتي يتم عرضها بشكل جيد”، بدلاً من “العملية المملة ذات الحجم الكبير والمحددة جيدًا” حيث “يؤتي الوكلاء ثمارهم بالفعل”، كما قال. الدكتور دانيال تياركس، المؤسس المشارك والرئيس التنفيذي للتكنولوجيا في Cambrion، مزود منصة معالجة بيانات الذكاء الاصطناعي الوكيل.
اقترح Tiarks الطرق التالية للتحكم في الذكاء الاصطناعي والاستفادة منه من خلال إدارة أفضل للعمليات:
-
ابدأ بعملية واحدة ذات حجم كبير ومحددة ولها إجابة صحيحة وواضحة.
-
لف النموذج بالتحقق الحتمي واحتفظ بالإنسان يتحكم في الحالات المتطورة.
-
حدد الدقة ورقم الإنتاجية الذي تحتاجه قبل البدء، ثم قم بالقياس وفقًا له.
-
إمكانية تتبع الطلب. يجب أن يعود كل مخرج إلى مصدره للتدقيق وإمكانية الدفاع القانوني.
-
تعامل مع النموذج باعتباره بنية تحتية قابلة للتبديل، أي بروتوكول سياق واجهة برمجة التطبيقات/النموذج غير المتوافق مع النموذج في المجموعة الحالية، وليس رهانًا لمرة واحدة على بائع واحد.
-
إعادة تصميم العملية بحيث يكون الوكيل موثوقًا به؛ لا تقم بتثبيت الوكيل في سير عمل معطل.
تذكر أن نماذج الوكلاء نادرًا ما تفشل في عزلة؛ إنهم يفشلون داخل العمليات التي لم يتم تصميمها أبدًا للعمل المستقل.
وقال “الإصلاح ليس نماذج أفضل”. كريستوف هورومبولي، رئيس قسم الذكاء الاصطناعي في ValidMind، وهي منصة حوكمة الذكاء الاصطناعي. “إنها تعمل على تضييق النطاق ليقتصر على المهام المحددة والمُجهزة جيدًا، وبناء أدوات تقييم حقيقية قبل التوسع، والتعامل معها على أنها عمليات إعادة تصميم تشغيلية بدلاً من كونها مشاريع تكنولوجية.”
هل فشل مشروع وكيل الذكاء الاصطناعي الخاص بك – أو نجح رغم كل الصعاب؟ أرسل قصتك بالبريد الإلكتروني إلى [email protected].
