الكأس المقدسة في تطوير الذكاء الاصطناعي هو الذكاء الاصطناعي القابل للتفسير، وهو وسيلة للكشف عن عمليات صنع القرار التي استخدمها نموذج الذكاء الاصطناعي للوصول إلى مخرجاته. بمعنى آخر، نحن البشر نريد أن نعرف لماذا فعل الذكاء الاصطناعي ما فعله قبل لقد راهننا بمسيرتنا المهنية أو حياتنا أو أعمالنا على مخرجاتها.
“يتطلب الذكاء الاصطناعي السببي نماذج لشرح تنبؤاته. يقول جورج ويليامز: “التفسير في أبسط صوره عبارة عن رسم بياني يمثل سلسلة السبب والنتيجة”. تكنولوجيا جي إس آي مدير تعلم الآلة وعلوم البيانات والذكاء الاصطناعي المدمج. ويقول: “في شكله الحديث، يعد تفسيرًا مفهومًا للإنسان في شكل نص”.
عادة، لا تحتوي نماذج الذكاء الاصطناعي على مسارات قابلة للتدقيق في عملية صنع القرار، ولا توجد آليات لتقديم التقارير الذاتية، ولا توجد طريقة للنظر خلف ستائر إخفاء الخوارزميات المتزايدة التعقيد.
يقول فيل جونسون، نائب الرئيس لحلول البيانات في شركة “يمكن تشبيه الذكاء الاصطناعي التنبؤي التقليدي بالصندوق الأسود حيث يكاد يكون من المستحيل معرفة السبب وراء النتيجة الفردية”. mPulse.
ونتيجة لذلك، لا يمكن للبشر أن يثقوا بأي شيء يقدمه نموذج الذكاء الاصطناعي. يمكن أن يكون الناتج هلوسة، أو كذبة، أو تلفيق، أو سوء تقدير، أو قصة خيالية، اعتمادًا على مدى كرمك في تصنيف مثل هذه الأخطاء ونوع نموذج الذكاء الاصطناعي المستخدم.
“لا تزال نماذج GenAI لها آثار جانبية مؤسفة تتمثل في الهلوسة أو اختلاق الحقائق في بعض الأحيان. هذا يعني أنهم قد يهلوسون أيضًا بتفسيراتهم. يقول ويليامز: “إن تخفيف الهلوسة هو مجال بحثي سريع التطور، وقد يكون من الصعب على المؤسسات مواكبة أحدث الأبحاث/التقنيات”.
من ناحية أخرى، يمكن لنموذج الذكاء الاصطناعي نفسه أن يكشف عن حقيقة عميقة لا يستطيع البشر رؤيتها لأن وجهة نظرهم محجوبة بسبب كميات هائلة من البيانات.
وكما أن جيش القرود الذي يضرب المثل على لوحات المفاتيح قد ينتج في يوم من الأيام رواية عظيمة، فإن العديد من حشود البشر قد يسافرون ذات يوم عبر رؤية مهمة مدفونة في مخازن هائلة من البيانات. أو يمكننا الاعتماد على سرعة الذكاء الاصطناعي للعثور على إجابة مفيدة الآن والتركيز على تعليمه للكشف عن كيفية التوصل إلى هذا الاستنتاج. هذا الأخير هو أكثر قابلية للإدارة بكثير من السابق.
كسر الصندوق الأسود للذكاء الاصطناعي
إذا استفاد المرء من تجربة العمل مع الذكاء الاصطناعي، فيجب أن يكون إعادة اكتشاف أعجوبة الدماغ البشري. كلما صممنا الذكاء الاصطناعي على غرار أدمغتنا، كلما وجدناه مجرد ظل لقدراتنا المذهلة.
وهذا ليس ازدراء للذكاء الاصطناعي، فهو اختراع مذهل حقًا وهو في حد ذاته شهادة على القدرات البشرية. ومع ذلك، يرغب المبدعون حقًا في معرفة ما الذي ينوي الإبداع فعله بالفعل.
يوضح ديفيد جواريرا: “معظم الذكاء الاصطناعي/التعلم الآلي يكون ارتباطيًا بطبيعته، وليس سببيًا”. EY الأمريكتين زعيم الذكاء الاصطناعي التوليدي. “لذا، لا يمكنك قول الكثير عن اتجاه التأثير. يقول: “إذا كان العمر والراتب مرتبطين، فأنت لا تعرف من الناحية الفنية ما إذا كان التقدم في السن يسبب لك المزيد من المال أو المال يسبب لك الشيخوخة”.
معظمنا يتفق بشكل حدسي على أن هذا هو نقص من المال الذي يتسبب في تقدم العمر، لكن لا يمكننا الاعتماد بشكل موثوق على حدسنا لتقييم مخرجات الذكاء الاصطناعي. ولا يمكننا أيضًا الاعتماد على الذكاء الاصطناعي لشرح نفسه، لأنه لم يكن مصممًا للقيام بذلك.
تقول جوديث هورويتز، كبيرة المبشرين: “في العديد من نماذج التعلم الآلي المتقدمة، مثل التعلم العميق، يتم استيعاب كميات هائلة من البيانات لإنشاء نموذج”. برامج جيمينوس ومؤلف الذكاء الاصطناعي السببي: الخطوة التالية في الذكاء الاصطناعي الفعال للأعمال. “إحدى المشكلات الرئيسية في هذا النهج تجاه الذكاء الاصطناعي هي أن النماذج التي تم إنشاؤها بواسطة البيانات لا يمكن أن تفهمها الشركات بسهولة. ولذلك، فهي غير قابلة للتفسير. بالإضافة إلى ذلك، من السهل إنشاء نتيجة متحيزة اعتمادًا على جودة البيانات المستخدمة لإنشاء النموذج.
يشار إلى هذه المشكلة عادة باسم “الصندوق الأسود” للذكاء الاصطناعي. إن اقتحام الأجزاء الداخلية لنموذج الذكاء الاصطناعي لاستعادة تفاصيل عملية صنع القرار ليس بالمهمة البسيطة من الناحية الفنية.
“يتضمن ذلك استخدام نظريات الاستدلال السببي والنماذج الرسومية، مثل الرسوم البيانية اللاحلقية الموجهة (DAGs)، والتي تساعد في رسم وفهم العلاقات السببية بين المتغيرات”، كما يقول رايان جروس، رئيس قسم البيانات والتطبيقات في جامعة كاليفورنيا. كايلينت. “من خلال معالجة متغير واحد، يمكن للذكاء الاصطناعي السببي ملاحظة والتنبؤ بكيفية تأثير هذا التغيير على المتغيرات الأخرى، وبالتالي تحديد علاقات السبب والنتيجة.”
كيف يعمل الذكاء الاصطناعي السببي
يتم إصلاح نماذج الذكاء الاصطناعي التقليدية بمرور الوقت ولا تفهم شيئًا. الذكاء الاصطناعي السببي هو حيوان مختلف تمامًا.
“الذكاء الاصطناعي السببي ديناميكي، في حين أن الأدوات المماثلة ثابتة. يمثل الذكاء الاصطناعي السببي كيفية تأثير حدث ما على العالم لاحقًا. يقول برنت فيلد: “يمكن الاستعلام عن مثل هذا النموذج لمعرفة كيف يمكن أن تعمل الأشياء”. استشارات انفوسيس. “من ناحية أخرى، تقوم نماذج التعلم الآلي التقليدية ببناء تمثيل ثابت لما يرتبط بماذا. ويضيف: “إنهم لا يميلون إلى العمل بشكل جيد عندما يتغير العالم، وهو ما يسميه الإحصائيون عدم الطاقة”.
من المهم أن نفهم لماذا تمثل نقطة عدم الطاقة هذه فرقًا حاسمًا في كل ما نقوم به تقريبًا.
“اللاعنفية موجودة في كل مكان. وهذا هو أحد الأسباب وراء أداء مديري الأموال بشكل عام دون أداء صناديق مؤشر S&P 500. ولهذا السبب غالبًا ما تكون استطلاعات الرأي الانتخابية متوقفة بعدة نقاط مئوية. ويوضح فيلد أن العقارات التجارية ونماذج الخدمات اللوجستية العالمية توقفت عن العمل في 15 مارس 2020 تقريبًا، لأن فيروس كورونا تسبب في هذه الصدمة الاقتصادية الهائلة في جانب العرض والتي لا يزال يتردد صداها في الاقتصاد العالمي.
ومن دون معرفة سبب الحدث أو النتيجة المحتملة، فإن المعرفة التي نستخرجها من الذكاء الاصطناعي تكون إلى حد كبير مواجهة للخلف حتى عندما تكون متوقعة للأمام. إن المخرجات المبنية على البيانات والأحداث التاريخية وحدها هي بطبيعتها معاقة وغير مجدية في بعض الأحيان. يسعى الذكاء الاصطناعي السببي إلى معالجة ذلك.
“تسمح النماذج السببية للبشر بأن يكونوا أكثر مشاركة ووعيًا بعملية صنع القرار. يقول جوزيف ريف، مدير هندسة البرمجيات في جامعة هارفارد: “النماذج السببية قابلة للتفسير وقابلة للتصحيح بشكل افتراضي – مما يعني أن البشر يمكنهم الثقة في النتائج والتحقق منها – مما يؤدي إلى زيادة الثقة”. السعة. ويقول: “تسمح النماذج السببية أيضًا بالاستفادة من الخبرة البشرية من خلال تصميم النموذج عند تدريب النموذج، على عكس النماذج التقليدية التي تحتاج إلى التدريب من الصفر، دون توجيه بشري”.
هل يمكن تطبيق الذكاء الاصطناعي السببي حتى على نماذج GenAI؟ في كلمة واحدة، نعم.
يقول محمد عبد الصادق، نائب الرئيس التنفيذي للبيانات والرؤى والتحليلات في شركة “يمكننا استخدام الذكاء الاصطناعي السببي لتحليل كمية كبيرة من البيانات وإقرانها بـ GenAI لتصور التحليل باستخدام الرسومات أو التفسيرات”. بطاقة ماستر بطاقة ائتمان. “أو، على الجانب الآخر، يمكن إشراك GenAI في تحديد أسئلة التحليل الشائعة في البداية، مثل صور الأضرار الناجمة عن حدث طبيعي، وسيتم جلب الذكاء الاصطناعي السببي لتنفيذ معالجة البيانات وتحليلها”. هو يقول.
هناك طرق أخرى يمكن أن يعمل بها الذكاء الاصطناعي السببي وGenAI معًا.
“يمكن أن يكون الذكاء الاصطناعي التوليدي أداة فعالة لدعم الذكاء الاصطناعي السببي. ومع ذلك، ضع في اعتبارك أن GenAI هي أداة وليست حلاً،” كما يقول هورويتز من Geminos Software. “إحدى الطرق الناشئة التي يمكن أن يكون بها GenAI مفيدًا بشكل كبير في الذكاء الاصطناعي السببي هي استخدام هذه الأدوات لتحليل معلومات الموضوع المخزنة في كل من التنسيقات المنظمة والموجهة. وتقول: “إن أحد المجالات الأساسية اللازمة لإنشاء حل سببي فعال للذكاء الاصطناعي هو الحاجة إلى ما يسمى بالاكتشاف السببي – تحديد البيانات المطلوبة لفهم السبب والنتيجة”.
هل هذا يعني أن الذكاء الاصطناعي السببي هو الدواء الشافي لكل الذكاء الاصطناعي أم أنه تكنولوجيا معصومة من الخطأ؟
“الذكاء الاصطناعي السببي هو مجال ناشئ. يقول فلافيو فيلانوستر، الرئيس العالمي لأمن المعلومات في شركة “إنترناشيونال إنترست”: “نظرًا لأن التكنولوجيا لم يتم تطويرها بشكل كامل بعد، فإن معدلات الخطأ تميل إلى أن تكون أعلى من المتوقع، خاصة في المجالات التي لا تحتوي على تدريب كافٍ لنظام الذكاء الاصطناعي”. حلول المخاطر LexisNexis. “ومع ذلك، يجب أن تتوقع أن يتحسن هذا بشكل ملحوظ مع مرور الوقت.”
إذًا، أين يقف الذكاء الاصطناعي السببي في مخطط الأشياء؟
“في دورة جارتنر هايب 2022“، تم اعتبار الذكاء الاصطناعي السببي أكثر نضجًا ومتقدمًا على الذكاء الاصطناعي التوليدي،” كما يقول إد واتال، المؤسس والمدير في انتليبوس. يقول: “ومع ذلك، على عكس الذكاء الاصطناعي التوليدي، لم يجد الذكاء الاصطناعي السببي حتى الآن حالة استخدام سائدة واعتمادًا قدمته أدوات مثل ChatGPT على نماذج الذكاء الاصطناعي التوليدية مثل GPT”.
