كيفية التقاط أخطاء منظمة العفو الدولية بنجاح

إلى أن يخطئ هو إنساني ، لذلك قد تكون أخطاء Genai ببساطة علامة على وجود تقنية غير مكتملة تشبه الإنسان تقريبًا. ومع ذلك ، سواء تم إنشاؤها من قبل البشر أو الذكاء الاصطناعى ، فإن الأخطاء هي دائمًا شيء جيد لتجنبه.

أخطاء Genai ليست متكررة ، ولكنها شائعة ، تحذر Matt Aslett ، مدير الأبحاث ، التحليلات ، والبيانات مع أبحاث التكنولوجيا والشركة الاستشارية ISG. “يجب أن يدرك أي شخص يستخدم Genai ، إما شخصيًا أو مهنيًا ، أن نماذج Genai مصممة لإنتاج تكرار واقعي للمحتوى الذي تم تدريبهم عليه ، بدلاً من تمثيل واقعية”.

يوضح Aslett أن نماذج اللغة الكبيرة (LLMS) ، على سبيل المثال ، تدربت على إنشاء محتوى مكتوب صالحًا من الناحية النحوية ، بناءً على إمكانية التنبؤ الإحصائية للكلمة التالية في جملة. “LLMs ليس لديها فهم دلالي للكلمات الناتجة” ، كما يلاحظ. “على هذا النحو ، ليس هناك ما يضمن أن المحتوى الذي تم إنشاؤه سيكون دقيقًا في الواقع.”

يقول مايك ميلر ، قائد المنتج الرئيسي في شركة Amazon Web Services ، إن Genai و Garge Language لديها قدرة غريبة على أن تبدو دقيقة وواثقة للغاية ودراية. يلاحظ في مقابلة عبر الإنترنت: “يمكن أن تبدو بليغة وتحدث بلغة تبدو حقيقية”. “قد يكون اصطياد الأخطاء من Genai أمرًا صعبًا ، لأنه إذا سألت Genai عن كيفية توزيع إجابة ، فقد يمنحك تفسيرًا معقولًا لا يزال من الممكن أن يكون مكونًا أو خطأ.”

متعلق ب:الذكاء الذكي على نطاق واسع: كتاب اللعب الخاص بمدير قسم المعلومات للتبني المستدام

احتضان التحقق

لا ينبغي استخدام نماذج Genai أبدًا في عزلة ، تنصح Aslett. “يجب على المستخدمين دائمًا التحقق من الدقة الواقعية لكل من المحتوى الذي تم إنشاؤه بواسطة Genai ومصادره المذكورة ، والتي يمكن أن تكون أيضًا تصنيعًا.”

يجب أن يعتمد الأفراد في النهاية على معرفتهم الخاصة لتقييم دقة المحتوى الناتج عن Genai وتحديد الأخطاء ، كما يقول Aslett. وفي الوقت نفسه ، يمكن للمؤسسات تطبيق نماذج التحقق من الصحة لتقييم ناتج نموذج GENAI ثم مقارنة المحتوى مقابل مصادر البيانات والمصادر المعتمدة لتحديد الأخطاء المحتملة.

يقول ساتيش شينوي ، نائب الرئيس العالمي لتحالفات التكنولوجيا و Genai في شركة الأتمتة في مجال العمليات التجارية SS & C Blue Prism ، إن أخطاء Genai يمكن معالجتها بعدة طرق. يقول في مقابلة عبر البريد الإلكتروني: “تختلف هذه التقنيات ، بما في ذلك قطع الأشجار والتدقيق لتصحيح الأخطاء التنبؤية لاستخدام LLMs كقاض ، أو حتى وضع إنسان في الحلقة”. “يتم أيضًا استخدام أطر الحوكمة والدرابزين بالاقتران مع LLMS لالتقاط أخطاء الذكاء الاصطناعي.”

خطر في المستقبل

بالنظر إلى الافتقار المتأصل في Genai إلى الدقة ، يجب ألا تعتمد القرارات على إنتاجها فقط ، كما يقول Aslett. “هناك مخاطر قد تؤدي إلى اتخاذ منظمة قرارات تجارية مكلفة بناءً على معلومات خاطئة.” بالإضافة إلى ذلك ، فإن المؤسسات التي تنشر الأفكار التي تم إنشاؤها بواسطة Genai تخاطر بخطر الغرامات التنظيمية والأضرار السمعة إذا أثبتت المعلومات أنها غير دقيقة.

متعلق ب:التنقل في قدرات توسيع الذكاء الاصطناعي والمخاطر المتطورة

هناك العديد من الأمثلة على أخطاء Genai ، على سبيل المثال ، على سبيل المثال ، chatbot Air Canada تزود العميل بمعلومات غير دقيقة. ويشير أيضًا إلى أنه تم تغريم المحامين لتقديم ملفات المحكمة التي تتضمن معلومات غير دقيقة ، مثل الاستشهاد بالقضايا القانونية التي لم تكن موجودة.

تحسين الدقة

أفضل نهج لتحسين دقة Genai هو من خلال تبني مجموعة متنوعة من العمليات ، تنصح Aslett. يقول: “قد يشمل ذلك تدريب نموذج على بياناته ومعلوماته ، على الرغم من أن هذا أمر محتمل من حيث التدريب والحفاظ على النموذج”. نهج آخر هو الهندسة الفورية، حيث يقوم المستخدم بتوجيه النموذج لاستخدام بيانات أو معلومات محددة فقط عند إنشاء استجابته. “هذا حل قصير الأجل لا ينطبق إلا على المطالبة الفردية حيث لا يتم الاحتفاظ بالمعلومات الإضافية بواسطة النموذج” ، يحذر.

متعلق ب:كيف تجني الشركات المال من مشاريع الذكاء الاصطناعي

ينصح ميلر باستخدام التفكير الآلي، الانضباط العلمي الذي يعزز الرياضيات والمنطق لإثبات النظريات أو الحقائق. يقول: “نستخدم التفكير الآلي لإنشاء سياسات أو الإجراءات والإرشادات”. “يوفر التفكير الآلي ثقة أعلى في الصواب من طرق الاختبار التقليدية ، على الرغم من أنه لا يزال يعتمد على الافتراضات الأساسية حول سلوكيات المكونات والنماذج البيئية.”

بمجرد اكتشاف خطأ Genai ، ابدأ في تتبع المشكلة ، كما يقترح Shenoy. ابدأ بتحليل الخطأ والعوامل المحتملة التي أدت إلى حدوثها. “إصلاح النموذج يمكن أن يتضمن ضبطه أو تدريبه” ، يلاحظ. في بعض الحالات ، قد يحتاج النموذج إلى تعديله. “من المهم أيضًا تعزيز أي أطر حوكمة ومراقبة موجودة لتقليل الأخطاء من الانزلاق عبر الشقوق.” بالإضافة إلى ذلك ، لتجنب الأخطاء المستقبلية ، قد يكون من الضروري اختبار البيانات والعملية المعنية. “إذا كان البشر متورطين في أي جزء من العملية ، فيجب أن يتم تدريبهم أيضًا.”

الصواب تهم

يقول شينوي إن التحقق من Genai من أجل الصواب أمر ضروري لأنه يسمح للمؤسسات والعملاء في مختلف الصناعات باستخدام الذكاء الاصطناعي في التطبيقات التي يتم فيها توفير السلامة أو المالية أو المعلومات الصحية للعملاء.