كيف يقوم مديرو التكنولوجيا والمهندسون المعماريون في الخدمات المالية بتطوير وكلاء الذكاء الاصطناعي

لا يزال الاستخدام العملي لوكلاء الذكاء الاصطناعي يتطلب قرارات معمارية ومتانة وإشرافًا، وفقًا للممارسين الذين تحدثوا في اجتماع AICamp الأخير في مدينة نيويورك.

وهاو لي، مهندس الحلول العالمية في FICO؛ ويارون شنايدر، المدير التنفيذي للتكنولوجيا والمؤسس المشارك في Diagrid؛ وشارك آدم هيرست، كبير مهندسي البرمجيات في StoneX Group، أمثلة حول كيفية تطور فرقهم عملاء من أدوات الذكاء الاصطناعي الجديدة والمثيرة للاهتمام يمكن أن يكون ذلك متقلبًا بعض الشيء في الموارد الأكثر موثوقية.

اكتسب وكلاء الذكاء الاصطناعي شعبية بسبب الوعد بأنهم قادرون على العمل بشكل استباقي، إن لم يكن بشكل مستقل، بعد القليل من المدخلات من مستخدميهم. لا يزال الوقت مبكرًا لعملاء الذكاء الاصطناعي، الذين يتخذون أحيانًا إجراءات غير مقصودة. ومثل هذه الأمور المجهولة لا تتناغم بشكل جيد مع القطاع المالي الذي يخضع لرقابة صارمة.

في اللقاء، قدم لي وشنايدر وهيرست حالات استخدام واقعية لكيفية تطوير عوامل أكثر استدامة وإدارة التعقيد في نظام بيئي سريع النمو.

متعلق ب:الغرفة التي يحدث فيها الحدث: لماذا يجب على مديري تكنولوجيا المعلومات جعل الذكاء الاصطناعي عضوًا في الفريق

سد الفجوة من النموذج الأولي إلى الإنتاج

وقال لي إن العديد من القرارات الهيكلية التي تم اتخاذها خلال العقد الماضي عبر الصناعة المالية كانت تتعلق بالأنظمة الحتمية، ولكن وكلاء الذكاء الاصطناعي لا تعمل في مثل هذا النظام. كان إدخال هذه الأدوات يعني وضع مجموعات جديدة من القواعد. وقال: “علينا أن نتعلم كيفية رسم الخط الفاصل بين المكان الذي يفكر فيه الفاعل والمكان الذي يجب أن تصمد فيه البنية الحتمية، وكيفية ربط هذين الاثنين معًا”.

تعمل فرق تكنولوجيا المعلومات في الخدمات المالية بالفعل على تطوير ذوقها في هذه الأدوات وإمكاناتها. وقال لي، إنه بفضل الذكاء الاصطناعي ومهندسي إدارة الأعمال، من الممكن إنشاء نموذج أولي بحلول نهاية اليوم – ويأتي التحدي في الإنتاج. وذلك عندما يجب التعامل مع حالات الفشل الجزئي وعمليات التدقيق والوكلاء المتعددين أثناء التحكم في المخرجات الاحتمالية. وقال إنه لتحقيق فوائد الوكلاء، يحتاج المهندسون إلى التركيز على ما ينجح خلال مرحلة النموذج الأولي وكيف يؤثر على الإنتاج. وإذا كانت هناك فجوة بين النماذج الأولية والإنتاج، فيجب اتخاذ قرارات معمارية جديدة.

واستشهد لي بأربعة مجالات ينبغي أن تحظى باهتمام خاص في هذه العملية:

وقال لي: “عليك أن تفكر في الطريقة التي تريد بها اتخاذ هذه القرارات المعمارية حتى تتمكن من سد الفجوة”. وأضاف أنه في قطاع الخدمات المالية، يمكن أن تكون الحوكمة أحد الاعتبارات الحاسمة في مرحلة النموذج الأولي، حيث سيكون لدى المنظمين أسئلة حول ما يصل إلى الإنتاج.

متعلق ب:لماذا يقدم محللو الذكاء الاصطناعي إجابات واثقة على الأسئلة الخاطئة

هاو لي، مهندس الحلول العالمية في FICO. [Joao-Pierre S. Ruth/InformationWeek]

تطوير عوامل مرنة وذات مهام حاسمة

واعترف شنايدر بأنه لا يزال يتصارع قليلاً مع عملاء الذكاء الاصطناعي، وهو ما قد لا يكون كذلك فهم ما يريد المستخدمون القيام به. وشدد على أهمية جعل تجارب عملاء الذكاء الاصطناعي غير قابلة للكسر بحلول الوقت الذي تصل فيه إلى مرحلة الإنتاج. وقال: “أحب أن آخذ أنظمة الشبكة وأحولها إلى شيء مرن بالفعل”.

قبل المشاركة في تأسيس Diagrid، عمل شنايدر في Microsoft، حيث عمل كمهندس برمجيات رئيسي في Azure Container Apps. وقال إن هناك العديد من أطر عمل العملاء في البرية الآن، على الرغم من أنهم يشتركون في سمة مماثلة. وقال: “لديهم جميعا شيء واحد مشترك: وهو أنهم يعالجون المشاكل السهلة”. وقال شنايدر إن العملاء يقومون بإنشاء حلقة بسيطة، ويستمرون في المهمة بصراحة إلى حد ما حتى اكتمالها.

Diagrid هو مطور منصة لسير العمل ووكلاء الذكاء الاصطناعي.

والمشكلة الأصعب هي مواجهة كل هذه التحديات الأسهل وتفعيلها. ولكن هذا هو المكان الذي يمكن أن يسقط فيه الوكلاء. وقارن شنايدر الأمر باتباع روتين صباحي يتطلب الدقة في كل خطوة. إذا فشلت خطوة واحدة – على سبيل المثال، قطار ركاب لا يعمل بشكل صحيح – فهذا يعني الاضطرار إلى بدء اليوم من البداية، والنهوض وارتداء الملابس. وقال “سيكون ذلك سيئا حقا. هذه هي المشكلة الأساسية التي يواجهها عملاء الذكاء الاصطناعي اليوم في الإنتاج”.

متعلق ب:تظهر أرباح Nvidia سبب حاجة مديري تكنولوجيا المعلومات إلى التفكير خارج نطاق وحدة معالجة الرسومات

يعد التعافي من الفشل أمرًا مهمًا لتطوير وكلاء أكثر تقدمًا، خاصة إذا تم إعادة تشغيل هؤلاء الوكلاء بشكل متكرر وأدى ذلك إلى تكاليف باهظة. وقال شنايدر إن تشغيل الخدمات الصغيرة المنتظمة يمثل مشكلة تشغيلية وتكلفة أقل. “ربما يؤدي ذلك إلى استنزاف وحدة المعالجة المركزية الخاصة بك قليلاً… ولكن LLM مرتبطة الآن بجميع مكالماتك، مما يعني أنك ستدفع مقابل كل مكالمات LLM هذه مرة أخرى. إنها طريقة رائعة للإفلاس.”

وأوصى بربط محرك تنفيذ متين بالوكيل، بحيث إذا فشل الوكيل أثناء تكراره، يمكن استعادة السياق والمتابعة من حيث توقف.

تصميم عمليات التكامل والاستحواذ

وقال هيرست إن StoneX، وهي شبكة خدمات مالية، استحوذت على العديد من الشركات على مدار المائة عام الماضية في مجال السلع الزراعية والمعادن الثمينة والأسهم والأوراق المالية. إن خلق التماسك بين تلك الشركات المتباينة لا يحدث من تلقاء نفسه.

وقال: “مع نمو StoneX من خلال عمليات الاستحواذ، كان أحد أكبر التحديات هو دمج الأنظمة والبيانات وسير العمل عبر مؤسسة سريعة التوسع”.

وبدلاً من محاولة استيعاب كل تلك الجداول الزمنية والإشارات المختلفة، والتي قد تؤدي إلى ديون التكامل، قال هيرست إن الفريق اعتمد وقت تشغيل مشترك. لقد تحولوا إلى Dapr، وهو نظام تشغيل مفتوح المصدر وموزع، والذي شارك شنايدر في إنشائه أثناء وجوده في Microsoft.

تضمنت عمليات الاستحواذ التي قامت بها StoneX تكاملًا معقدًا مع Gain Capital في عام 2020 والذي أصبح بمثابة دمية متداخلة لأن Gain كانت قد استحوذت بالفعل على ما يقرب من اثنتي عشرة شركة بحلول وقت الصفقة. “لم تتم هذه الصفقة الواحدة فحسب [StoneX] قيمة أنظمة شركة واحدة؛ لقد جلبت لنا 11 نظامًا للشركة تم دمجها بالفعل بواسطة شخص آخر”.

وقال شنايدر إن فريق StoneX طور منتجًا يسمى Overwatch لمراقبة هذه الوظائف والعمليات الموزعة فعليًا. ووصفه بأنه خادم يستضيف سير عمل Dapr ولكن ليس لديه قاعدة بيانات خاصة به، ولكنه يساعد في ضمان الرؤية وإمكانية التدقيق. وقد ساعد ذلك في إدارة المئات من عمليات سير العمل المنتشرة عبر مضيفين مختلفين، والتي تم تنفيذها بشكل مستقل. وقال: “إن وقت التشغيل المشترك هذا غيّر بالفعل طريقة كتابة التعليمات البرمجية… لم نعتمد Dapr لكتابة تعليمات برمجية أقل. لقد اعتمدنا Dapr لامتلاك تعليمات برمجية أقل والمسؤولية عنها”.

آدم هيرست، كبير مهندسي البرمجيات في مجموعة StoneX [Joao-Pierre S. Ruth/InformationWeek]

كيف تعاملت مؤسستك مع استخدام وكلاء الذكاء الاصطناعي؟ اسمحوا لنا أن نعرف في [email protected].