تضمن منصة حوكمة الذكاء الاصطناعي تطوير أنظمة الذكاء الاصطناعى بمسؤولية وشفافية. يقول جين كلارك ، مدير خدمات التمكين الاستشارية/التقنية في شركة EISNER الاستشارية للأعمال ، في مقابلة عبر البريد الإلكتروني: “إنه يساعد على تخفيف المخاطر ، مثل انتهاكات خصوصية البيانات ، وعدم الدقة النموذجية ، والانجراف ، وبناء الثقة مع أصحاب المصلحة”.
يقول Dorotea Baljevic ، الاستشاري الرئيسي للتصنيع والهندسة الرقمية ، مع شركة ISG الاستشارية لـ ISG ، إن حوكمة الذكاء الاصطناعى يجب أن توسيع التزام حوكمة البيانات العام للمؤسسة من خلال الحد من تحيز الذكاء الاصطناعي وزيادة الشفافية. “تغطي حوكمة الذكاء الاصطناعى أكثر بكثير من نظام الذكاء الاصطناعى نفسه ليشمل الأدوار والعمليات ونماذج التشغيل اللازمة لسن الذكاء الاصطناعي”.
الذكاء الاصطناعي أتمتة وسرعة صنع القرار. ومع ذلك ، لا تزال هناك حاجة لإنشاء نوع من مسارات التدقيق التي تُظهر القرارات التي يتم اتخاذها وتسمح بانعكاسات القرار ، إذا لزم الأمر ، يقول كايل جونز ، المدير الأول لهندسة الحلول في AWS ، في مقابلة عبر البريد الإلكتروني. “تحتاج منصة حوكمة AI موثوقة إلى تلبية احتياجات العمل اليوم ويمكن تحديثها وتغييرها مع مرور الوقت حتى تستمر النتائج في تلبية احتياجات العمل.”
سمات المنصة
يقول كلارك إن منصات حوكمة الذكاء الاصطناعى تشبه نظرائها في العمليات الهندسية ، وأفضل ممارسات الأمن السيبراني ، بما في ذلك المراقبة المستمرة والتنبيه والتصاعد الآلي ، وكلها مدعومة بعملية إدارة قوية. “ما يميز حوكمة الذكاء الاصطناعي هو دمج الأتمتة لإدارة النماذج نفسها ، وغالبًا ما يشار إليها باسم OPS التعلم الآلي أو MLOPs.” ويشمل ذلك الأتمتة للتحقق من النماذج ونشرها ومراقبتها وصيانتها.
يقول فيا أمماناث ، المدير التنفيذي لمعهد عالمي ديلويت ، الإرشادات الأخلاقية وآليات الإبلاغ ، إن منصة حوكمة الذكاء الاصطناعى الفعالة تتضمن أربعة مكونات أساسية: حوكمة البيانات ، والضوابط الفنية ، والإرشادات الأخلاقية ، وآليات الإبلاغ. “إن حوكمة البيانات ضرورية لضمان أن البيانات داخل المؤسسة دقيقة ومتسقة وآمنة واستخدامها بشكل مسؤولية” ، تشرح في مقابلة عبر الإنترنت.
يقول عماناث إن الضوابط الفنية ضرورية للمهام مثل اختبار نماذج GENAI والتحقق من صحتها لضمان أدائها وموثوقيتها. “تعد إرشادات استخدام الذكاء الاصطناعى الأخلاقي والمسؤول أمرًا بالغ الأهمية ، حيث تغطي جوانب مثل التحيز والإنصاف والمساءلة لتعزيز الثقة في المنظمة ومع أصحاب المصلحة الرئيسيين.” بالإضافة إلى ذلك ، يجب وضع عناصر تحكم الإبلاغ في مكانها لدعم الوثائق الشاملة والإفصاح الشفاف لأنظمة GENAI.
بناء الفريق
لا يوجد إطار واحد يناسب الجميع لحوكمة الذكاء الاصطناعي. “بدلاً من تطبيق المعايير الشاملة ، يجب على المنظمات التركيز على تطوير استراتيجيات حوكمة الذكاء الاصطناعى التي تتوافق مع صناعتها وحجمها وأهدافها” ، كما ينصح عماناث. “كل مؤسسة وكل صناعة لها أهداف فريدة ، وتحمل المخاطر ، والتعقيدات التشغيلية ، مما يجعل من الضروري بناء نموذج حوكمة مصمم لتناسب الاحتياجات المحددة ، والاستفادة من الأساليب الواعية للسياق.”
“تتطلب حوكمة الذكاء الاصطناعى نهجًا متعدد التخصصات أو متعددة التخصصات وقد يشمل شركاء غير تقليديين مثل علوم البيانات وفرق الذكاء الاصطناعي ، وفرق التكنولوجيا للبنية التحتية ، وفرق الأعمال التي ستستخدم النظام أو البيانات والبيانات والمخاطر والامتثال-حتى الباحثين والعملاء”.
ينصح كلارك العمل عبر مجموعات أصحاب المصلحة. وتقول: “ينبغي إدراج قادة التكنولوجيا والأعمال ، وكذلك الممارسين-من مهندسي ML إلى خيوط وظيفية-في الخطة الإجمالية ، وخاصة بالنسبة لعمليات نشر حالات الاستخدام عالية الخطورة”. “من هناك ، من الأسهل تقسيم الخطة ومعالجتها ، إما عن طريق بناء مهام سير عمل مخصصة داخل مجموعة أدوات ML/AI الخاصة بمزود السحابة أو عن طريق شراء حل ودمجها في برنامج حوكمة حالي.”
تجنب الأخطاء
يقول عماناث إن هذا الخطأ الأكبر عند تنفيذ حوكمة الذكاء الاصطناعي هو معاملته كطالب ثابت ومرة واحدة بدلاً من عملية مستمرة وتكيفية. “تتطور تقنيات الذكاء الاصطناعى واللوائح والتوقعات المجتمعية بسرعة ، ويمكن أن تؤدي الفشل في تصميم إطار مرن وقابل للتطوير إلى ممارسات قديمة ، وزيادة المخاطر ، وفقدان الثقة.” بالإضافة إلى ذلك ، يمكن أن يؤدي الفشل في تنفيذ ضوابط شاملة والتكيف باستمرار مع التهديدات المتطورة في السوق إلى نقاط ضعف كبيرة تقوض أمن عمليات الذكاء الاصطناعى.
أكبر مؤسسات الخطأ التي ترتكبها هي التركيز على نماذج محددة بدلاً من سير العمل. “النماذج تتغير باستمرار وتتحسن” ، يلاحظ جونز. “ليس هناك ، ولن يكون أبدًا ، نموذجًا واحدًا” أفضل “.” بدلاً من ذلك ، ينصح المؤسسات بالتركيز على سير العمل الذي يمكن أن يكون آليًا بشكل فعال.
فراق الأفكار
هذا وقت مثير في التكنولوجيا ، مع إمكانية تغيير كل شيء تقوم به كل مؤسسات بشكل أساسي ، كما يقول جونز. “يجب على الناس التركيز على مشاكل العمل التي يمكن أن تكون آلية ، والبدء الصغير والتوسيع” ، كما ينصح. استخدم المعرفة الحالية لتكنولوجيا المعلومات في مجالات مثل التجريد والخدمات المجهرية والاقتران الفضفاض ، والتي يمكن أن تضخمها في جميع الذكاء الاصطناعي. “ابدأ بالمشاريع التي تقدم قيمة الأعمال لكسب الحق في المضي قدمًا في المزيد من التحسينات المتمركزة في تكنولوجيا المعلومات التي تقلل من التكاليف الإجمالية.”
