لقد أمضيت أكثر من 20 عامًا في العمل مع منظمات كبيرة لتحديد مخاطرها الإلكترونية والرقمية الأكثر أهمية وتطوير استراتيجيات فعالة من حيث التكلفة تقدم نتائج عالية التأثير. لقد شاهدت منظمة العفو الدولية ترتفع من أداة متخصصة إلى محور كل محادثة استراتيجية تقريبًا. طوابق الشريحة مدح منظمة العفو الدولية لإلغاء قفل الكفاءة ، تقليل النمو للمخاطر والتهول التوربيني.
في هذا الإثارة ، غالبًا ما رأيت نمطًا خطيرًا يظهر: يميل القادة إلى أبعد من اللازم ، بسرعة كبيرة في الأتمتة دون التشكيك في ما يكمن وراء الستار.
الخطر ليس التكنولوجيا. إنها الثقة المفرطة في ذلك.
العديد من صانعي القرار تفترض خطأ أن تبني الذكاء الاصطناعي هو قرار تقني بحت. ليست كذلك؛ إنه تحد استراتيجي وأخلاقي وحوكمة ، وعندما تتجاهل القيادة أن النظم تنكسر ، وتآكل الثقة ، وتعاني السمعة.
الفخ الدقيق للثقة التنفيذي
الذكاء الاصطناعى يأتي ملفوف في سرد مغر. عناوين الأخبار تحتفل باختراقات التعلم الآلي. البائعون يعدون بالذكاء الجاهك. الفرق الداخلية تتعرض لضغوط لتقديم “انتصارات منظمة العفو الدولية”. في هذا المناخ ، من السهل على كبار القادة أن يسقطوا في ما أسميه وهم السيطرة: الاعتقاد بأن أنظمة الذكاء الاصطناعى هي محركات دقة خالية من المخاطر.
الذكاء الاصطناعي ليس محايدا. يعكس البيانات التي تستهلكها و يضخم الافتراضات التي تم بناؤها. إن تفويض القرارات عالية المخاطر إلى النماذج دون التشكيك في كيفية عملها أو مكان فشلهم ليس الابتكار ؛ إنه اختلاط.
من عملي الاستشاري ، رأيت ثلاث نقاط عمياء مشتركة:
-
الإفراط في الاعتماد على لوحات المعلومات
-
سوء فهم قيود الذكاء الاصطناعى
هذه البقع العمياء لا تنبع من عدم الكفاءة. أنها تنبع من نقص التحدي. تفتقر الغرفة إلى حوافز لأي شخص يقول ، “هذا قد لا يعمل”.
عندما تفشل الحوكمة في مواكبة
في معظم المنظمات ، حوكمة الذكاء الاصطناعى لا تزال تلعب اللحاق بالركب. غالبًا ما تحذف سجلات المخاطر أوضاع فشل النموذج. نادراً ما تختبر خطط التدقيق قابلية التوضيح أو نسب البيانات. لا يوجد هيئة إشراف متعددة الوظائف تملك مخاطر الذكاء الاصطناعي ، مجرد مجموعة من الفرق الفنية والمستشارين القانونيين وقيادة الامتثال المرتدة.
هذا يؤدي إلى إخفاقين حرجين:
-الارتباك القابلية للتغلب
هشاشة التشغيل
إلى أن تعامل أطر الحوكمة منظمة العفو الدولية بنفس خطورة الضوابط المالية أو الأمن السيبراني ، ستستمر هذه المخاطر.
التعرف على المخاطر الحقيقية: إنه ليس النموذج ، إنه عقلية
تحيز القيادة هو الضعف الخفي الذي تتجاهله معظم المنظمات. في الأعلى ، مكافأة مقاييس الأداء اليقين والسرعة. لكن الذكاء الاصطناعى يتطلب التواضع والتوقف. يجبرنا على طرح أسئلة غير مريحة حول جودة البيانات وتأثير أصحاب المصلحة والاستدامة طويلة الأجل.
المنظمات التي تحصل عليها بشكل صحيح لا توصيل الذكاء الاصطناعي فقط. أنها تكييف العمل حول مخاطر وقيود الذكاء الاصطناعي.
يتطلب تحولا في العقلية:
-
من التفويض إلى التعاون
-
من العتامة إلى القابلية للشرح
يبدأ بناء مرونة الذكاء الاصطناعي في الأعلى
لا تحتاج المجالس والفرق التنفيذية إلى أن تصبح مهندسين منظمة العفو الدولية. لكنهم يحتاجون إلى فهم مكان حياة الذكاء الاصطناعي وكيفية إدارته. يبدأ ذلك بالتعليم ، والملكية الواضحة ، والتعاون بين الوظائف.
فيما يلي بعض الخطوات العملية التي ساعدت العملاء على تنفيذها:
-
دمج الذكاء الاصطناعي في إدارة مخاطر المؤسسة
-
أضف منظمة العفو الدولية إلى نطاقات التدقيق الداخلي
-
إنشاء مجلس مخاطر الذكاء الاصطناعي
-
خلق السلامة النفسية
قبل كل شيء ، يؤدي مع الفضول. أفضل القادة الذين عملت معهم لا يسعون إلى اليقين ؛ يسألون أسئلة أفضل. يقاومون جاذبية الرصاص الفضي. أنها تخلق مساحة للمعارضة والتكرار وتصحيح الدورة.
المرونة ، وليس الاعتماد
الذكاء الاصطناعى لديه القدرة على تحويل كيفية تشغيل وتنافس ونخدم. لكن التحول دون الاستبطان هو المسؤولية. الخطر الأكثر أهمية ليس في النماذج ؛ إنه في كيفية تحكمهم.
ستكون المنظمات التي تعيش وتزدهر في عصر الذكاء الاصطناعى هي تلك التي تتمتع بعيون مفتوحة على مصراعيها ، وبناء المرونة ، وليس فقط القدرة.
قبل اجتماع مجلس الإدارة التالي أو مراجعة خريطة الطريق الفصلية ، اسأل نفسك: هل نحن في الإفراط في تأجير أداة لا نفهمها تمامًا؟ والأهم من ذلك ، ما الذي نفعله للبقاء في اللعبة ، حتى عندما تتغير القواعد بين عشية وضحاها؟
