لماذا يجب على المطورين العمل بشكل أكثر ذكاءً، وليس فقط بشكل أسرع، مع الذكاء الاصطناعي التوليدي
إدارة أدوات الذكاء الاصطناعي التوليدي (GenAI). سوف يستلزم تغييرات كبيرة في الثقافة والإجراءات مع استمرار انتشاره كالنار في الهشيم من خلال فرق المطورين.
وفقاً لكيران ميناساندرام، نائب الرئيس والمدير التنفيذي للتكنولوجيا في Wipro FullStride Cloud، فإن الأمر لا يتعلق فقط بتبني أدوات جديدة، بل بتغيير كيفية تفاعل المطورين مع التكنولوجيا وحل المشكلات وإنشاء نماذج جديدة في هندسة البرمجيات.
ويقول إن هناك حاجة إلى “تحول ثقافي وإجرائي شامل” لإدارة المخاطر المرتبطة بها بشكل صحيح جينايوالتي تتراوح بين الهلوسة والتضخم التقني وتسميم البيانات والتلاعب بالمدخلات أو الحقن الفوري لانتهاكات الملكية الفكرية (IP) وسرقة نماذج GenAI نفسها.
يقول ميناساندرام: “عليك أن تقلق بشأن صلاحية النموذج”. “عليك أن تقلق بشأن انحراف النماذج أو الهلوسة النموذجية. يعتمد كل نموذج على البيانات، والبيانات متحيزة بطبيعتها. حتى لو كانت نسبة صغيرة من التحيز، وبدأت في استقراء ذلك على المزيد والمزيد من البيانات، فإن التحيز سوف يزداد فقط.
ولهذا السبب، يجب على المؤسسات أن تكون “حذرة للغاية” فيما يتعلق بكمية البيانات التي تتعامل بها مع النماذج، لأن التحيز سوف يصل إلى البيانات. عندما تقوم المنظمات بالاستقراء من مجموعات بيانات محدودة، فإن النتائج تكون كذلك مقيد إلى تلك الجودة والكمية. قد تكون البيانات المطلوبة حساسة وخاصة – والبيانات غير المتوفرة في مجموعات البيانات الصريحة الخاصة بك يمكن أن تؤدي بسهولة إلى الهلوسة النموذجية.
يقول ميناساندرام: “لذلك أنت بحاجة إلى استراتيجيات تخفيف جيدة، ولكن كل ذلك يتم على أساس كل حالة على حدة”. “علينا أن نكون حذرين للغاية. على سبيل المثال، إذا كانت البيانات حساسة، فكيف يمكنك إخفاء هويتها دون فقدان جودة البيانات؟
يمكن أن يحتاج المحتوى الذي تم إنشاؤه الدرابزين، أيضاً. حتى لو كان الأمر يتعلق بإنشاء كود المصدر، وكتابة بعض التعليمات البرمجية لإكمال الجهاز، فإن هذا الرمز غير مكتمل. قد تستلزم حواجز الحماية المناسبة لذلك قياس جودة ذلك محتوى، هو يقول.
أطر المسؤولية
سوف تتطلب قيمة المؤسسة المسؤولية إطار أعمال التي تغطي الاستخدام الفردي، بالإضافة إلى التكنولوجيا وجوانبها الفنية في بيئة معينة. وقد قامت شركة Wipro بتطوير نظامها الخاص، وتنظر في كيفية اتخاذه وتنفيذه، بما في ذلك داخليًا مع الحفاظ على الاستجابة للعملاء.
يتضمن ذلك العمل على فهم كامل لحالات التعرض للمخاطر المتعلقة بمراجعة التعليمات البرمجية والأمن والتدقيق والامتثال التنظيمي والمزيد لتطوير حواجز الحماية.
والخبر السار هو أن المزيد من أدوات تحسين جودة التعليمات البرمجية والأداء آخذة في الظهور، بما في ذلك تحسين التعليمات البرمجية والمترجم، من أجل التكامل في خطوط أنابيب CI/CD، كما يقول ميناساندرام.
ومع ذلك، لا يمكن أن يقتصر الأمر على مجرد وضع GenAI جانبًا. يتزايد الطلب على مهام مثل إعادة هيكلة التعليمات البرمجية والتقنيات الأكثر تقدمًا مثل التشفير التنبؤي أو التشفير التعاوني – حيث “تجلس الآلة مع المطور” وتقوم برفع التعليمات البرمجية الأولية.
يقول دون شويرمان، كبير مسؤولي التكنولوجيا (CTO) في شركة Pegasystems لأتمتة سير العمل، إن التحديات الرئيسية لا تكمن في الافتقار إلى التعليمات البرمجية بقدر ما تكمن في “جبل من الديون التقنية”، حيث يؤدي سوء إدارة GenAI ببساطة إلى زيادة الأعباء التقنية.
ولهذا السبب، فهو يرى أن GenAI يُستخدم بشكل أفضل في مهام أخرى غير “إصدار التعليمات البرمجية”.
“من الأفضل بكثير استخدام GenAI للرجوع إلى الوراء مشكلة العمل تحاول هذه التعليمات البرمجية حلها: كيف يمكننا تحسين العملية لتحقيق الكفاءة؟ ما هي أسرع طريقة لدعم عملائنا مع الالتزام بالمبادئ التوجيهية التنظيمية؟ هو يقول. “صمم سير العمل الأمثل للمستقبل، بدلاً من إطلاق التعليمات البرمجية لأتمتة العمليات التي نعلم بالفعل أنها معطلة.”
الضغوط في مكان العمل
ويوافق على ذلك، حتى لو كان لديك خبرة ومهارة في الإشراف على جميع المستويات، وتحرير التعليمات البرمجية والتحقق منها بعد كتابتها، فإن ضغوط مكان العمل يمكن أن تؤدي إلى حدوث أخطاء وتؤدي إلى تفويت الأشياء.
تأكد من أن المستخدمين لديهم “إصدارات آمنة من الأدوات” ثم استخدم GenAI بشكل أكبر “للمضي قدماً في العمل”. باستخدام أدوات ذات تعليمات برمجية منخفضة، غالبًا ما تجد فرق تكنولوجيا المعلومات نفسها تتخلص من فشل تقنية المعلومات الظلية، ويمكن أن ينطبق الأمر نفسه على GenAI – حيث يكون نشرها على وجه التحديد أكثر فائدة لتوفير السرعة والابتكار داخل حواجز الحماية التي تضمن في الوقت نفسه الامتثال و يشير شويرمان إلى قابلية الصيانة.
اعتماد أساليب مثل استرجاع-الجيل المعزز (RAG) للمساعدة في التحكم في كيفية وصول GenAI إلى المعرفة دون تحمل تكاليف بناء العرف والحفاظ عليه نموذج لغة كبير (LLM)، وإنشاء “أصدقاء” معرفيين يجيبون على الأسئلة بناءً على مجموعة محددة من المحتوى المعرفي للمؤسسة. يمكن أن يساعد RAG في منع الهلوسة مع ضمان الاستشهادات وإمكانية التتبع.
استخدم GenAI لإنشاء النماذج – سير العمل، وهياكل البيانات، والشاشات – التي يمكن تنفيذها من خلال منصات قابلة للتطوير تعتمد على النماذج. يأتي الخطر من استخدام GenAI “لتحويل الجميع إلى مطورين”، مما يخلق المزيد من التضخم والديون الفنية، كما يقول شويرمان.
يقتصر الأمر على إنشاء مسارات العمل ونماذج البيانات وتجارب المستخدم وما إلى ذلك التي تمثل تجربة العملاء والموظفين الأمثل، والتي ترتكز على أفضل ممارسات الصناعة. إذا قمت بذلك، فيمكنك تنفيذ التطبيقات الناتجة في سير العمل على مستوى المؤسسة ومنصات اتخاذ القرار المصممة للتوسع.
يقول شويرمان: “وإذا كنت بحاجة إلى إجراء تغييرات، فلن تدخل في مجموعة من التعليمات البرمجية التي تم إنشاؤها لمعرفة ما يحدث – بل يمكنك ببساطة تحديث النماذج الملائمة للأعمال التي تعكس خطوات سير العمل أو نقاط البيانات في تطبيقك”.
يقول كريس رويالز، المدير التنفيذي للتكنولوجيا الميداني في Cloudera، مزود منصة البيانات، إنه من المهم أيضًا تدريب الأشخاص على تعزيز مطالباتهم بمعلومات أفضل وأكثر صلة. قد يعني ذلك توفير مجموعة محدودة ومدققة بدقة من مجموعات البيانات وتوجيه الأداة التوليدية لاستخدام البيانات التي يمكن العثور عليها بوضوح في مجموعات البيانات هذه فقط وليس غيرها.
ويقول إنه بدون ذلك، قد يكون من الصعب ضمان أفضل الممارسات والمعايير والمبادئ المتسقة الخاصة بك عند إنشاء تطبيقات وخدمات جديدة باستخدام GenAI.
يقول رويالز: “يجب على المؤسسات أن تفكر بوضوح تام في كيفية إدخال الذكاء الاصطناعي في منتجاتها الخاصة”. “وباستخدام GenAI، أنت تستخدم بيانات الاعتماد للاتصال بتطبيقات الطرف الثالث. هذا مصدر قلق حقيقي، وحماية أوراق الاعتماد هو مصدر قلق”.
ويقول: إنك تريد دائمًا أن تكون قادرًا على تجاوز ما يفعله GenAI.
اجعل فرق التطوير أوسع وأوسع، مع إمكانية وصول أكبر أو دورات اختبار أقصر. يجب أن تكون التطبيقات المبنية قابلة للاختبار من حيث ميزات التحقق، مثل ما إذا كان قد تم استخدام أطر التشفير الصحيحة، وما إذا كانت بيانات الاعتماد محمية بالطريقة المناسبة والصحيحة.
يضيف Royles أنه يمكن استخدام GenAI في مهام أخرى متعلقة بالتطوير، مثل الاستعلام عن العقود المعقدة، أو ما إذا كان الأمر كذلك في الواقع قانوني لإنشاء التطبيق أو استخدامه في المقام الأول. ويجب إدارة هذا أيضًا بعناية نظرًا لخطر الهلوسة بأدلة أو سوابق قانونية غير موجودة.
ويمكن تحقيق التخفيف جزئيًا من خلال تدريب الأشخاص على تعزيز مطالباتهم بمعلومات أفضل وأكثر صلة بالموضوع. على سبيل المثال، توفير مجموعة محدودة ومدققة بدقة من مجموعات البيانات وتوجيه الأداة لاستخدام البيانات التي يمكن العثور عليها بوضوح في مجموعات البيانات هذه فقط، وليس غيرها، كما يشير.
لن ينجح الحظر
يوافق توم فاولر، مدير التكنولوجيا التنفيذي في شركة CloudSmiths الاستشارية، على أن منع المطورين من استخدام GenAI لن ينجح. سيختار الأشخاص عادة استخدام التكنولوجيا التي يرون أنها تجعل حياتهم أسهل أو أفضل، سواء كان ذلك يتعارض مع سياسة الشركة أم لا.
ومع ذلك، لا يزال يتعين على المؤسسات أن تعمل على تجنب المنحدر الزلق نحو المستوى المتوسط أو “الوسط المهمل” الذي يمثل خطرًا حقيقيًا عندما يسعى الإشراف غير الكافي أو فريق لديه الكثير من الديون الفنية إلى استخدام GenAI لسد فجوة في مجموعة مهارات التطوير الخاصة بهم. يقول فاولر: “يجب على المنظمات أن تكون على دراية بذلك وتحذر منه”. “أنت بحاجة إلى محاولة فهم ما يجيده حاملو ماجستير إدارة الأعمال (LLM) وما يعيبون فيه.”
في حين أن القدرات تتطور بسرعة، لا تزال LLMs “سيئة” في مساعدة الأشخاص على كتابة التعليمات البرمجية وإدخالها في الإنتاج. قد يلزم فرض نوع من القيود على استخدامه من قبل فرق المطورين، وستظل المؤسسات بحاجة إلى هندسة البرمجيات، بما في ذلك المهندسين الجيدين ذوي الخبرة القوية وممارسات مراجعة التعليمات البرمجية القوية.
يقول فاولر: “بالنسبة لي، يمكنك استخدام GenAI لمساعدتك في حل الكثير من المشكلات الصغيرة”. “يمكنك حل مهمة صغيرة جدًا بسرعة كبيرة جدًا، لكنهم لا يملكون القدرة على تحمل كميات كبيرة من التعقيد – الأنظمة الموروثة، والأنظمة الهندسية المصممة لتكون قادرة على حل المشكلات الكبيرة. بهذه الطريقة البشر جيدون. أنت بحاجة إلى البصيرة، أنت بحاجة إلى التفكير، أنت بحاجة إلى القدرة على الاحتفاظ بهذه الصورة الكبيرة في رأسك.
قد يعني هذا في الواقع أنك ستتطلع إلى تحسين مهارات فرق التطوير لديك، بدلاً من تفريغها لتوفير المال، كما يوافق على ذلك.
يمكن للمهندس الجيد أن يحلل ما يحاول القيام به وظيفيًا إلى الكثير من المشكلات الصغيرة، ويمكن استخدام GenAI لهذه الأجزاء الفردية. عندما يُطلب من GenAI المساعدة في مشكلة كبيرة ومعقدة أو القيام بشيء ما من البداية إلى النهاية، “يمكنك الحصول على القمامة”.
يقول فاولر: “إما أن تحصل على تعليمات برمجية لن تعمل دون بعض التدليك، أو تحصل فقط على “نصيحة” سيئة”. “يتعلق الأمر بالمساعدة في توسيع نطاق فريقك وإنجاز المزيد بموارد أقل [partly as a result]. وظهور طرائق متعددة، ونماذج خاصة بالمجال، سواء تم بناؤها من الصفر أو تم ضبطها بدقة، سيكون المستقبل بنسبة 100٪.
اعتبارات حقوق النشر
بدأ اللاعبون الكبار في تقديم عروض للمؤسسات مع وسائل حماية حول البيانات والتسرب وما شابه، وهو أمر “رائع”، ومع ذلك لم يتم إيلاء سوى القليل من الاهتمام نسبيًا حتى الآن حقوق النشر يقول فاولر، ومخاطر الملكية الفكرية الأخرى فيما يتعلق بالبرمجة.
انظر ماذا حدث عندما رفعت Oracle دعوى قضائية ضد Google بشأن استخدام Java API. قد ترغب المنظمات في النظر إلى أوجه التشابه والسوابق لتفادي المفاجآت السيئة المحتملة في المستقبل.
ويشير إلى ذلك قائلاً: “ستكون هناك سوابق حول ما هو مقبول من حيث مقدار ما تم تعديله وتغييره بالقدر الكافي لنكون قادرين على القول إنه ليس مماثلاً تماماً لشيء آخر – لكننا لا نعرف ذلك بعد”.
من خلال الاستخدامات العامة والواسعة لـ GenAI، يمكن أن تأتي البيانات بسهولة من شيء ما على Google أو Stack Overflow، وفي مكان ما وسط كل ذلك، يمكن نسخ عنوان IP الخاص بشخص آخر عبر الخوارزمية. قد تحتاج المنظمات التي تقوم ببناء أداة تعتمد على LLM في عروضها إلى حواجز حماية على ذلك.
يقول فاولر: “بعد كل هذا، لست مقتنعًا بأنها مخاطرة كبيرة من شأنها أن تردع معظم المنظمات”.
