غالبًا ما يتبنى المطورون منظمة العفو الدولية (GENAI) لأنها تساعدهم على ذلك رمز أسرع، ومع ذلك ، فإن الأدوات لديها القدرة على تعريض المؤسسات لمرض المخاطر – خاصة إذا كان الاستخدام غير مصرح به أو تجاهل أفضل الممارسات.
يقول ديفيد كولويل ، نائب رئيس AI والتعلم الآلي (ML) في مورد أتمتة الاختبار ، Tricentis. “وجهة نظري الشخصية هي أن الذكاء الاصطناعى يمكن أن يكون تأثير Dunning-Kruger المتجسد “.
تأثير Dunning-Kruger هو التحيز المعرفي الطبيعي. كلما كانت المهارة أو المعرفة أقل حول موضوع معين ، زاد احتمال المبالغة في تقدير الكفاءة في هذا المجال.
قد يقوم بعض أعضاء الفريق الذين لديهم قدر متوسط من المهارة بمراجعة جزء من الكود ويعتقدون أنه يبدو جيدًا. يوضح كولويل أن الخبراء الحقيقيين ، من ناحية أخرى ، قد ينظرون إلى نفس الرمز ويرون بناءًا مليئًا بمنافق الأمن ، والحزم السيئة وغيرها من القضايا.
كيف تتعامل مع ذلك وتجنب مخاطرة من بين أنواع جديدة من الأخطاء التي لم ترها من قبل يمكن أن تكون تحديًا. تتوفر الأدوات ، لكنك تحتاج أولاً إلى سياسة أمنية قوية وممارسات وعمليات قوية وفرضية تضمن الحكم. ولأن Genai يمكن أن ينشئ رمزًا بشكل أسرع ، فقد تكافح المؤسسات من أجل اختبار ما يكفي لمواكبة معدل إنتاج التعليمات البرمجية.
في 2025 استطلاع من خلال Tricentis ، اعترف حوالي 63 ٪ من 2700 قائد – معظمهم من المديرين التنفيذيين والمديرين ومحترفي تكنولوجيا المعلومات – شحن الرأي غير المختبرين ، وأشار 90 ٪ من الثقة في Genai لاتخاذ قرارات إصدار البرمجيات.
الدفاعات ضد النتائج المثيرة للإعجاب بشكل سطحي
يمكن أن يسأل أعضاء الفريق الأقل دراية جناي أدوات لبناء تطبيق لمهمة معينة. يمكن أن يكون الكود الناتج مثيرًا للإعجاب بشكل سطحي إذا لم يكن لديك أي فكرة عن المشكلات التي قد تحتوي عليها.
لسبب واحد ، يجب أن يكون تطوير البرمجيات ، من الذكاء الاصطناعي أم لا ، آمنًا حسب العملية. إذا ارتكبت رمزًا ، فيجب أن تجتاز عمليات مسح أمان ، وفحص التحقق من الصحة ، والمسح الديناميكي والباقي. ومع ذلك ، لا يمكنك القضاء على الأخطاء في الكود تمامًا – “الكود الذي حصل على غباء فيه” ، كما يؤكد كولويل.
قد يكون أحد الأمثلة على ذلك إذا كان مستخدم تطبيق أو موقع ويب مقيد العمر أقل من 18 عامًا ، لكن الرمز يفشل في رفض الوصول في نقاط إدخال محددة ، أو إذا كان المستخدم ينقر بطريق الخطأ على الزر الخاطئ أو يقدم استجابة غير صحيحة. يجب فحص هذه الأنواع من الأخطاء البسيطة في كل مرة لأنها متكررة. يجب أن تمر جميع التعليمات البرمجية بعمليات المراجعة والتحقق ، ولكن تم إنشاؤها. كل ذلك يحتاج إلى الإشراف.
بالطبع ، فإن التوثيق الشامل لما تفعله الفرق أمر بالغ الأهمية. وإلى حد ما ، يمكن أن تساعد أدوات الاختبار التي تعمل بالنيابة ومراقبة الشبكة وأدوات إدارة التراكم في اكتشاف مشاكل الكود وتحديد أولويات التغييرات وفقًا للمخاطر.
أ ماكينزي تشير الدراسة إلى أن استخدام الدراسات الاستقصائية والبيانات الحالية وأدوات إدارة الأعمال المتراكمة يمكن أن يقلل من عيوب البرامج التي تم الإبلاغ عنها بنسبة 20-30 ٪. يمكن أن تثبت برنامج Discovery App Discovery لاكتشاف أدوات الاستخدام ووقاية فقدان البيانات (DLP) لتحديد مشاركة المعلومات غير المناسبة أيضًا.
يمكن لأدوات تحليل تغطية الكود تتبع أجزاء الكود التي يتم تنفيذها أثناء الاختبارات الوظيفية. قد يحددون أجزاء من التعليمات البرمجية التي لم يتم تنفيذها أثناء الاختبار ، مما يشير إلى رمز غير ضروري أو خاطئ قدمه الذكاء الاصطناعي. أيضًا ، يمكن للأداة ذات الصلة تحديد شروط زائدة أو غير ذات صلة بالمتطلبات الموثقة. يمكن لـ AIS في بعض الأحيان إضافة أشياء غريبة إلى الكود ، قم بإجراء اختبار “تمرير” أو تلبية مواقف محددة.
ولكن قبل كل شيء ، يلاحظ كولويل ، الدفاع عن المنظمات ضد المخاطر التي تم إدخالها في رمز من خلال استخدام Genai غير المصرح به أو غير لائق يعني الاستثمار في التدريب والتعليم. ينصح المنظمات بتدوينها. إذا كنت تعرف أن فرق المطورين قد تم تعليمهم جيدًا في أفضل الممارسات والمخاطر إذا أخطأت ، فيمكنك الثقة في سياساتها وتوثيقها وممارساتها.
يقول كولويل: “علّم مهندسيك والأشخاص الذين يستخدمون Genai قيود الأدوات المحددة التي لديهم”. “سوف يفكر الكثير من الناس في Genai على أنه صندوق تفكير سحري إلى حد ما ، ولكن ما لديك بالفعل هو صندوق لحل المشكلات الطبيعية مع ذاكرة قصيرة ، وميل إلى الإجابة بسرعة بدلاً من العثور على حقائق ملموسة ، ولا يمكن الوصول إلى بيئتها الخارجية وفقدان الذاكرة إلى ما بعد نقطة التدريب الأخيرة”.
في الواقع ، قد لا تكون قادرًا على شرائها. يقول Ankur Anand ، CIO of Nash Squared ، الذي يمتلك Harvey Nash IT Recruitment ، إن نقص مهارات الذكاء الاصطناعي هو الأكبر في التكنولوجيا لمدة 15 عامًا.
تتضمن مهارات الذكاء الاصطناعي فهم كيفية الاستفادة من المنصات و CRM ، والتعلم حول المطالبات و “المسؤولية التي تأتي مع ذلك” ، بما في ذلك تدقيق النتائج قبل الاستخدام. تتطلب مهارات Genai على المطورين ومديري المنتجات ومديري المشاريع بالإضافة إلى جودة البيانات ونسب البيانات ومهارات حوكمة البيانات.
أدناه ذلك ، ناش مربعة مايو تم العثور على التقرير زيادة الطلب على مطوري بيثون مع معرفة نموذج اللغة الكبير (LLM) ، على سبيل المثال. أصبح Genai “من الجيد أن يكون” في العديد من التوصيف الوظيفي أيضًا.
ويضيف أناند: “هذا يضع مطالب متزايدة على فريق التكنولوجيا لأنها لا تتعلق بمجال واحد فقط”.
يوافق Facundo Giuliani ، مهندس Solutions في CMS SoreDblok ، على نطاق واسع: “يمكن أن يكون الرمز الذي تم إنشاؤه بواسطة Genai نقطة انطلاق جيدة – يشرف عليه الإنسان الذي يعرف ما الذي يفعله وما يحدث في الخلفية”.
ستبقى مهارات المطورين حاسمة ما لم تتجاوز الأحداث مستقبلنا بشكل أسرع مما نتوقع. وفي الوقت نفسه ، يظل من الضروري التحكم في عمليات التنمية ، خاصةً عندما تشارك فرق متعددة.
مقاربات إضافية لممارسة ترميز الذكاء الاصطناعى الجودة
جولياني يلاحظ ذلك شفرة غالبًا ما تستند نماذج الذكاء الاصطناعى التي تم إنشاؤها على الإنترنت العام إلى مجموعات بيانات لا تشبه مصدر الحقيقة. قد تشمل القرائن أن شيئًا ما مفقودًا أو غير صحيح في الكود ، أو ببساطة تم نشر نسخ ولصق ، حلولًا طويلة أو عرضية.
هل هناك المزيد من الأخطاء مما تتوقعه ، أم أن الأشياء تحدث بسرعة كبيرة أو بطيئة؟ انتبه إلى الإنتاجية المقاييس، مثل أبحاث وتقييم DevOps (DORA) والفضاء/الرفاهية ، والنشاط ، والأداء ، والاتصال ، والكفاءة/التدفق (الفضاء) ، وتحليل المساهمة وعشرات قدرة المواهب.
هناك حاجة إلى حوكمة الذكاء الاصطناعى الرسمي وإدارة المخاطر النموذجية (MRM). هناك أيضًا أطر عمل ومعايير متطورة للمساعدة في تقييم مخاطر الذكاء الاصطناعي.
منظمة المعايير الدولية (ISO) المعيار 42،001 يدور حول إدارة الذكاء الاصطناعي بمسؤولية ، والمعهد الوطني للمعايير والتكنولوجيا في الولايات المتحدة (NIST) إطار إدارة مخاطر الذكاء الاصطناعي (و Playbook) في التنمية.
يقول جولياني إن أي أنماط من المألوف تتطلب فحصًا أوثق لممارسات الترميز الضعيفة. يقول: “قد ترى حلولًا مبالغًا فيها للمشاكل البسيطة. يحدث الشيء نفسه مع الكود الذي أنشأه الأشخاص الذين ليس لديهم خبرة. يجب أن يساعدهم المرافق أو المعلم على رفع معرفتهم. يجب أن يصبح الشخص مسؤولاً بطريقة أو بأخرى عن الكود قبل الإنتاج”.
يعني التحقق من الكود بشكل كاف نشر العديد من التقنيات أو العمليات ، بما في ذلك ضمان قيام زميل أو مشرف بإجراء عمليات فحص رمز يدوي قبل التقديم إلى بيئات الإنتاج. هذا بغض النظر عن كيفية إنشاء الكود ، يضيف جولياني.
يوافق جودي بيلي ، كبير موظفي المنتجات والتكنولوجيا (CPTO) في مجال مطور مجتمع المركز ، على نطاق واسع: “أنت بحاجة إلى التأكد من أن ما يتم طرحه لا يزال جودة. أنت بحاجة الرقابة والمراجعات. يستخدم الكثير من الناس مطالبات لكتابة التعليمات البرمجية الخاصة بهم ولكن حتى ذلك الحين تقييم هذه المطالبات. “
لكن التحدي للمطورين لم يكن أبدًا حول مدى سرعة كتابتك ومدى سرعة كتابة الرمز. يقول بيلي إن الأمر يتعلق بما إذا كان لديك الأفكار الصحيحة وتفكر في المشكلات منطقيا وكفاءة. ويوافق على أن التحقق من صحة الذكاء الاصطناعي قد يتضمن استخدام الذكاء الاصطناعي. قد يستخدم أحد الأساليب الإنسانية مقابل الجوزاء ، على سبيل المثال ، لأن نماذج مختلفة لها نقاط قوة مختلفة وضعف.
يقول: “على مختلف ألواح المتصدرين ، يمكن أن يتغير هذا من شهر لآخر. بعضها أكثر تركيزًا على الكود ، والبعض الآخر غرضًا أكثر عمومية”.
على الرغم من أنك قد لا تقضي أبدًا على استخدام الظل ، إلا أنه أكثر عمومية يراقب يمكن أن تقدم المساعدة ، بما في ذلك الأدوات لتفاعلات الويب وإدارة نقطة النهاية. ولكن إذا قدم الناس شيئًا من تلقاء أنفسهم وكانت النتائج جيدة ، فقد تدير المنظمة ذلك جيدًا.
“لا يسعني إلا أن أفكر في الرياضة ، حيث يأخذ شخص ما لقطة ويذهب المدرب” لا ، لا ، ليس هكذا! “، ثم الهدف هو” ياي! ” [instead]يقول بيلي.
تعتمد الأساليب المختارة على الظروف والحاجة ، ولكن يجب أن يكون للكود مراقبة وضريبة على الجودة سواء تم استخدام Genai أم لا. ويضيف بيلي ويضيف أن البديل هو بيئة مغلقة للغاية حيث يكون الخطر هو فقدان الخفة والابتكار.
