يمكن أن يؤدي دفع التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي دون إجراء اختبار مناسب إلى العديد من المخاطر والعواقب بالنسبة للمؤسسات.
قد تؤدي التعليمات البرمجية غير المختبرة إلى حدوث أخطاء وأخطاء، مما يؤدي إلى حدوث أعطال وضعف الأداء، وقد لا تلبي معايير الجودة أو أفضل الممارسات أو تلتزم بالمعايير التنظيمية ومتطلبات الامتثال، مما قد يتسبب في تداعيات قانونية ومالية.
ولضمان وجود تعليمات برمجية عالية الجودة، يجب على قادة تكنولوجيا المعلومات إعطاء الأولوية للإشراف البشري والمراقبة المستمرة ودمج هذه التدابير مع الاختبارات الشاملة ومراجعات التعليمات البرمجية، مما يضمن توافق التعليمات البرمجية التي ينشئها الذكاء الاصطناعي مع بروتوكولات الأمان.
يقول سكوت جيرلاش، المؤسس المشارك ومدير العمليات في StackHawk: “قم بإجراء اختبار متى وأين وكيف يعمل المطورون لديك”. “ضع في اعتبارك متطلبات الاختبار في وقت مبكر وأشرك جميع أصحاب المصلحة الرئيسيين في تصميم العملية لضمان القبول.”
ويوصي بجعل الاختبار جزءًا لا يتجزأ من دورة حياة تطوير البرمجيات عن طريق أتمتة الاختبار في التكامل المستمر والتسليم المستمر (CI/CD) أثناء عمل المطورين على الكود.
ويضيف: “قم بتثقيف المطورين لديك من خلال التدريب المستهدف استنادًا إلى الأنماط في سياق الكود الخاص بهم وأهميتهم بالنسبة للأعمال”. “تحتاج أيضًا إلى توفير أدوات الخدمة الذاتية التي تساعد المطورين على فهم المشكلات التي تنشأ، وسبب أهميتها، وكيفية إعادة إنشاء المشكلة حتى يتمكنوا من إصلاح القرارات واتخاذها وتوثيقها.”
يشرح جيم شيبمير، كبير محللي مدير Gartner، عبر البريد الإلكتروني أن استخدام التعليمات البرمجية من مساعدي التشفير بالذكاء الاصطناعي ينطوي على مخاطر مماثلة كما هو الحال عندما يقوم المطورون بنسخ ولصق التعليمات البرمجية من Stack Overflow أو موارد الإنترنت الأخرى.
يقول شيبمير: “نحن بحاجة إلى استخدام مساعدي التشفير بالذكاء الاصطناعي لإنشاء وثائق التعليمات البرمجية، لذلك يتم تحسين الفهم والمعرفة بالحل بالإضافة إلى تسريعه”.
عمليات مراجعة التعليمات البرمجية التي تتمحور حول الإنسان
ينصح راندي واتكينز، المدير التنفيذي للتكنولوجيا في Critical Start، المؤسسات ببناء سياساتها ومنهجيتها الخاصة عندما يتعلق الأمر بتنفيذ التعليمات البرمجية التي ينشئها الذكاء الاصطناعي في ممارسات تطوير البرمجيات الخاصة بها.
“بالإضافة إلى بعض أفضل الممارسات والتقنيات القياسية للتشفير مثل تحليل التعليمات البرمجية الثابتة والديناميكية وممارسات CI/CD الآمنة، يجب على المؤسسات الاستمرار في مراقبة تطوير البرمجيات ومساحة الأمان لتحقيق التقدم في هذا المجال،” صرح لـ InformationWeek عبر البريد الإلكتروني. .
ويقول إن المؤسسات يجب أن تستفيد من التعليمات البرمجية التي ينشئها الذكاء الاصطناعي كنقطة انطلاق، ولكن يجب عليها الاستفادة من المطورين البشريين لمراجعة التعليمات البرمجية وتحسينها للتأكد من أنها تلبي المعايير.
يضيف جون بامبينيك، صائد التهديدات الرئيسي في شركة Netenrich، أن احتياجات القيادة “تقدر قيمة التعليمات البرمجية الآمنة”، والتأكد من أن الاختبار الآلي على الأقل هو جزء من جميع التعليمات البرمجية التي يتم إنتاجها.
وأشار في رسالة بالبريد الإلكتروني إلى أنه “في نهاية المطاف، يمكن حل العديد من مخاطر أكواد الذكاء الاصطناعي التوليدية من خلال اختبارات إلزامية فعالة وشاملة”.
ويوضح أنه كجزء من مسار CI/CD، تأكد من إجراء الاختبار الإلزامي على جميع التزامات الإنتاج وإجراء تقييم شامل روتيني على قاعدة التعليمات البرمجية بأكملها.
يقول بامبينيك: “احتفظ بمخزون من مكتبات البرامج المستخدمة لتمكين التحقق من التحديثات أو تضمين الحزم المطبعية، وإدارة الأسرار لإبقاء المفاتيح وبيانات الاعتماد خارج مستودعات التعليمات البرمجية”.
نحت طريق الوضوح
مختبرات صلصة حديثة استطلاع من بين 500 مطور أمريكي، وجد أن أكثر من ثلثي (67%) المشاركين اعترفوا بدفع التعليمات البرمجية إلى الإنتاج دون اختبار، واعترف ستة من كل 10 مطورين شملهم الاستطلاع باستخدام تعليمات برمجية غير مختبرة تم إنشاؤها بواسطة ChatGPT.
يقول جيسون باوم، مدير المجتمع في Sauce Labs، إن الأمر يتعلق بتعزيز القيادة وشق طريق من الوضوح وسط الاندفاع.
ويوضح قائلاً: “باستخدام التعليمات البرمجية التي ينشئها الذكاء الاصطناعي، غالبًا ما نتجاهل السياق والوظيفة، مما يجعل الاختبار الشامل ليس حكيمًا فحسب، بل ضروريًا لتفادي التهديدات المالية والمتعلقة بالسمعة”. “عندما نضع توقعات واضحة تمامًا، فإننا لا نكتفي بتتبع التعليمات البرمجية السريعة إلى السوق فحسب، بل ندعم ثقافة يتم فيها احترام الجودة والأمان، وعدم المساس بهما.”
يقول باوم إن الموازنة بين كفاءة الذكاء الاصطناعي وجودة الكود يشبه توقع تقديم مشروب طازج من حبة القهوة مباشرةً – حيث يعد تخطي الطحن والتحضير أمرًا محظورًا.
ويوضح قائلاً: “تمامًا كما لا يسمح الصحفيون لـ ChatGPT بنشر مقال دون مراجعة، لا يمكننا السماح للكود الناتج عن الذكاء الاصطناعي بالانتقال إلى الإنتاج دون فحص شامل”. “يتعلق الأمر بتعليم المطورين لدينا ووجود شبكة مراجعة قوية لاكتشاف ما هو غير مرئي، مما يضمن وصول التعليمات البرمجية لدينا إلى خط النهاية بسرعة وأمان.”
يوافق جوش ثورنجرين، رئيس قسم دعم المطورين في ForAllSecure، على ضرورة إجراء اختبارات الجودة والأمان بشكل سلس قدر الإمكان وتجنب إخراج المطورين من سير عمل التعليمات البرمجية/الإنشاء/الشحن.
على سبيل المثال، إذا قامت إحدى المؤسسات بتشغيل أداة اختبار الأمان أثناء عملية CI، فيجب على المطورين الحصول على نتائج تلك الأداة عبر أداة تعقب المشكلات أو أداة CI الخاصة بهم – ولا يتعين عليهم تسجيل الدخول إلى منتج الأمان لرؤية النتائج.
ويضيف: “علينا أيضًا أن نخلق ثقافة لا يميل فيها التوازن بين الجودة والسرعة دائمًا نحو السرعة”. “هذه ليست تحديات جديدة، ولكن سرعة إنشاء أكواد الذكاء الاصطناعي تزيد من تأثيرها على الأمن والاستقرار والجودة، مما يزيد من التحدي لكل منها.”
