الذكاء الاصطناعي هو المبادرة التكنولوجية الأولى لمعظم المؤسسات، وهو يدخل الباب من خلال أقسام متعددة في BYOT (إحضار التكنولوجيا الخاصة بك)، والبائعين، والأصناف المبنية منزليًا. ولإدارة هذه التكنولوجيا القادمة، يجب تحديد تدابير الثقة والمخاطر والأمن الخاصة بالذكاء الاصطناعي وتنفيذها وإدارتها. من يفعل هذا؟ معظم الشركات ليست متأكدة، ولكن يجب على مدراء تكنولوجيا المعلومات الاستعداد لأن المسؤولية من المحتمل أن تقع على عاتق تكنولوجيا المعلومات. فيما يلي بعض الخطوات التي يمكن لكبار مسؤولي المعلومات اتخاذها الآن.
1. الاجتماع مع الإدارة العليا ومجلس الإدارة
لا يزال اعتماد الذكاء الاصطناعي في مراحله المبكرة، لكننا شهدنا بالفعل سلسلة من الإخفاقات المحرجة والتي تراوحت بين التمييز الوظيفي الذي ينتهك القوانين الفيدرالية، إلى إنتاج وثائق محكمة زائفة، وفشل المركبات الآلية في التعرف على مخاطر المرور، ووعود التجزئة الكاذبة المقدمة للمستهلكين والتي كان على الشركات دفع تعويضات عنها. معظم هذه الكوارث كانت غير مقصودة. لقد نشأت بسبب عدم قيام المستخدمين بالتحقق من صحة بياناتهم وخوارزمياتهم أو استخدام بيانات مضللة لأنها كانت خاطئة أو غير كاملة. وكانت النتيجة النهائية هي الإضرار بسمعة الشركة وعلاماتها التجارية، الأمر الذي لا يرغب أي رئيس تنفيذي أو مجلس إدارة في التعامل معه.
هذه هي المحادثة التي يجب أن يجريها مدير تكنولوجيا المعلومات مع الرئيس التنفيذي ومجلس الإدارة الآن، على الرغم من أن أقسام المستخدمين (وتكنولوجيا المعلومات) قد تكون بالفعل في مراحل تنفيذ الذكاء الاصطناعي. يجب أن تكون الدروس المستفادة من المناقشات هي أن الشركة تحتاج إلى منهجية رسمية لتنفيذ الذكاء الاصطناعي وفحصه وصيانته – وأن الذكاء الاصطناعي هو عامل خطر جديد يجب دمجه في خطة إدارة مخاطر الشركة.
2. تحديث خطة إدارة المخاطر المؤسسية
يجب تحديث خطة إدارة المخاطر المؤسسية لتشمل الذكاء الاصطناعي كمجال مخاطر جديد يجب إدارته بشكل فعال.
3. التعاون في الشراء
وتوقعت جارتنر أن 70% من تطوير التطبيقات الجديدة سيكون من أقسام المستخدمين. يستخدم المستخدمون أدوات منخفضة التعليمات البرمجية أو معدومة التعليمات البرمجية وممكّنة بالذكاء الاصطناعي. صعود تنمية المواطن هو نتيجة مباشرة لاستغراق تكنولوجيا المعلومات وقتًا طويلاً لتلبية طلبات المستخدمين. كما أنها ولدت موجة من ميزانيات تكنولوجيا المعلومات المصغرة في أقسام المستخدمين التي تتجاوز تكنولوجيا المعلومات وتنتقل مباشرة من خلال وظيفة الشراء في الشركة.
ويكمن الخطر في أنه يمكن للمستخدمين شراء حلول الذكاء الاصطناعي التي لم يتم فحصها بشكل صحيح، والتي يمكن أن تشكل خطرًا على الشركة.
إحدى الطرق التي يمكن أن يساعد بها مدراء تكنولوجيا المعلومات هي إنشاء علاقة نشطة وتعاونية مع الشراء تمكن تكنولوجيا المعلومات من بذل العناية الواجبة لعروض الذكاء الاصطناعي قبل طلبها.
4. المشاركة في عمليات طلب تقديم العروض للمستخدم لمنتجات تكنولوجيا المعلومات
على الرغم من أن العديد من المستخدمين ينطلقون بمفردهم عند شراء منتجات تكنولوجيا المعلومات، إلا أنه لا يزال هناك مجال لتكنولوجيا المعلومات لإدخال نفسها في العملية من خلال التفاعل بانتظام مع المستخدمين، وفهم المشكلات التي يريد المستخدمون حلها، ومساعدة المستخدمين على حلها قبل شراء المنتجات. محللو الأعمال هم في أفضل وضع للقيام بذلك، لأنهم يتفاعلون بانتظام مع المستخدمين – ويجب على مديري تكنولوجيا المعلومات تشجيع هذه التفاعلات.
5. ترقية ممارسات أمن تكنولوجيا المعلومات
قامت المؤسسات بترقية أدوات وأساليب الأمان المحيطية وداخل الشبكة لأنظمة المعاملات، لكن تطبيقات وبيانات الذكاء الاصطناعي تمثل تحديات أمنية فريدة من نوعها. يمكن أن تتعرض وظيفة الدردشة المدعمة بالذكاء الاصطناعي على موقع ويب للاختراق من خلال مطالبات المستخدم أو العميل المتكررة التي تخدع وظيفة الدردشة وتدفعها إلى اتخاذ إجراءات خاطئة. يمكن تسميم البيانات التي يعمل عليها الذكاء الاصطناعي لتقديم نتائج خاطئة تعمل عليها الشركة. وبمرور الوقت، يمكن أن تصبح نماذج الذكاء الاصطناعي عتيقة الطراز أيضًا، مما يؤدي إلى نتائج زائفة.
يمكن تحسين أنظمة الذكاء الاصطناعي، سواء استضافتها تكنولوجيا المعلومات أو المستخدمون النهائيون، من خلال إجراء مراجعات على عملية ضمان الجودة بحيث تخضع الأنظمة للاختبار من قبل المستخدمين و/أو تكنولوجيا المعلومات التي تحاول تخيل كل طريقة ممكنة قد يحاول بها المتسلل اختراق النظام، ثم تجربة هذه الطرق لمعرفة ما إذا كان يمكن اختراق النظام. هناك نهج إضافي، يُعرف باسم الفريق الأحمر، وهو عندما تستعين الشركة بشركة خارجية لأداء ضمان الجودة من خلال محاولة كسر النظام.
يمكن لقسم تكنولوجيا المعلومات تثبيت نهج ضمان الجودة الجديد هذا للذكاء الاصطناعي، وبيعه إلى الإدارة العليا ثم جعله أحد متطلبات الشركة لاختبار ما قبل النشر لأي حل جديد للذكاء الاصطناعي، سواء تم شراؤه بواسطة قسم تكنولوجيا المعلومات أو المستخدمين النهائيين.
6. تحسين مهارات العاملين في مجال تكنولوجيا المعلومات
إن إجراء ضمان الجودة الجديد لاختبار حلول الذكاء الاصطناعي قبل إطلاقها للإنتاج، أو أدوات جديدة لفحص البيانات وتنظيفها قبل السماح لها باستخدام الذكاء الاصطناعي، أو طرق التحقق من “جودة” نماذج الذكاء الاصطناعي والخوارزميات، كلها مهارات ستكون مطلوبة في مجال تكنولوجيا المعلومات لتحقيق كفاءة الذكاء الاصطناعي. يعد تحسين مهارات الموظفين توجيهًا مهمًا، نظرًا لأن أقل من ربع الشركات تشعر أنها مستعدة للذكاء الاصطناعي. المستخدمون أقل استعدادًا، لذلك من المحتمل أن يرحبوا بشراكة نشطة مع قسم تكنولوجيا المعلومات الذي يتمتع بمهارات الذكاء الاصطناعي.
7. تقديم تقرير شهري عن الذكاء الاصطناعي
من المرجح أن يقع عبء إدارة الذكاء الاصطناعي على عاتق تكنولوجيا المعلومات، لذا فإن أفضل ما يمكن أن يفعله مديرو تكنولوجيا المعلومات هو تبني الذكاء الاصطناعي بقوة من الأعلى إلى الأسفل. وهذا يعني جعل إدارة الذكاء الاصطناعي موضوعًا منتظمًا في تقرير تكنولوجيا المعلومات الشهري الذي يتم إرساله إلى مجلس الإدارة، وكذلك إطلاع مجلس الإدارة بشكل دوري على الذكاء الاصطناعي. قد يكون بعض مدراء تكنولوجيا المعلومات مترددين في تولي هذا الدور، ولكن له مزاياه. إنه يحدد بوضوح أن تكنولوجيا المعلومات هي النقطة المحورية للذكاء الاصطناعي في المؤسسة، مما يسهل على تكنولوجيا المعلومات وضع إرشادات مؤسسية لاستثمارات الذكاء الاصطناعي ونشره.
8. تنظيف البيانات وبائعي البيانات البيطرية
تكنولوجيا المعلومات هي مضيفة البيانات للمؤسسة. وهي مسؤولة عن ضمان أن تكون البيانات على أعلى مستوى من الجودة، وتقوم بذلك عن طريق استخدام أدوات تحويل البيانات التي تقوم بتنظيف البيانات وتطبيعها. تتمتع تكنولوجيا المعلومات أيضًا بتاريخ طويل في فحص البائعين الخارجيين للتأكد من جودة البيانات. تعد البيانات عالية الجودة ضرورية للذكاء الاصطناعي.
9. العمل مع المراجعين والمنظمين
يمكن للمدققين والمنظمين الخارجيين أن يكونوا مفيدين للغاية في تحديد أفضل ممارسات الذكاء الاصطناعي لتكنولوجيا المعلومات، وفي طلب ممارسات الذكاء الاصطناعي للمؤسسة والتي بدورها يمكن تقديمها إلى مجالس الإدارة والمستخدمين. يمكن لشركات التدقيق الخارجية أن تساعد في تدريبات الفريق الأحمر التي تعمل على تحفيز نظام الذكاء الاصطناعي الجديد بطرق عديدة يفعلها المتسللون المستغلون، بهدف العثور على جميع الثغرات الموجودة في النظام حتى يمكن سد هذه الثغرات.
10. تطوير منهجية دورة حياة الذكاء الاصطناعي
حتى الآن، ركزت معظم الشركات على بناء أو شراء أنظمة الذكاء الاصطناعي وتنفيذها. لم يتم التفكير كثيرًا في صيانة النظام أو استدامته. وبناءً على ذلك، يجب تحديد دورة حياة نظام الذكاء الاصطناعي، وتقنية المعلومات هي من تقوم بذلك.
وكجزء من منهجية دورة الحياة هذه، يجب مراقبة أنظمة الذكاء الاصطناعي في الإنتاج بانتظام للتأكد من دقتها مقابل المقاييس المحددة مسبقًا. إذا بدأ نظام التنبؤ بالطقس بدقة تبلغ 95% ثم انخفض إلى 80% في الأشهر التسعة المقبلة، فيجب إجراء ضبط لخوارزميات النظام أو بياناته أو كليهما – حتى يعود إلى مستوى الدقة بنسبة 95%.
