تكتسب AI Open Source الزخم عبر اللاعبين الرئيسيين. أعلنت Deepseek مؤخرًا عن خطط ل مشاركة أجزاء من بنية النموذج والرمز مع المجتمع. اتبعت Alibaba حذوها مع إطلاق أ نموذج جديد متعدد الوسائط مفتوح المصدر يهدف إلى تمكين وكلاء الذكاء الاصطناعي الفعالين من حيث التكلفة. نماذج Meta’s Llama 4 ، الموصوفة بأنها “شبه مفتوحة” ، هي من بين أقوى أنظمة الذكاء الاصطناعى المتاحة للجمهور.
إن الانفتاح المتزايد لنماذج الذكاء الاصطناعى يعزز الشفافية والتعاون والتكرار الأسرع عبر مجتمع الذكاء الاصطناعي. لكن هذه الفوائد تأتي مع مخاطر مألوفة. لا تزال نماذج الذكاء الاصطناعى البرمجيات – غالبًا ما يتم تجميعها باستخدام قواعد الكود الواسعة والتبعيات وخطوط أنابيب البيانات. مثل أي مشروع مفتوح المصدر ، يمكنهم إيواء نقاط الضعف أو المكونات القديمة أو حتى الخلفية المخفية التي تتوسع مع التبني.
نماذج الذكاء الاصطناعى ، في جوهرها ، لا تزال رمز – فقط مع طبقات إضافية من التعقيد. التحقق من صحة المكونات التقليدية مثل مراجعة مخطط: معقدة ، ولكن يمكن معرفة ذلك. نماذج الذكاء الاصطناعي عبارة عن صناديق سوداء مبنية من مجموعات بيانات ضخمة غير معتمة وعمليات تدريب يصعب تتبعها. حتى عندما تتوفر مجموعات البيانات أو معلمات التوليف ، فإنها غالبًا ما تكون كبيرة جدًا على التدقيق. يمكن تدريب السلوكيات الخبيثة ، عن قصد أم لا ، والطبيعة غير المحددة لمنظمة العفو الدولية تجعل الاختبار الشامل مستحيلًا. ما يجعل منظمة العفو الدولية قوية تجعلها غير متوقعة ومحفوفة بالمخاطر.
التحيز هو واحد من أكثر المخاطر الدقيقة والخطورة. تخبز بيانات التدريب المنحرفة أو غير المكتملة في العيوب الجهازية. تجعل النماذج غير المعتادة التحيز من الصعب اكتشافها – ويكاد يكون من المستحيل إصلاحها. إذا تم استخدام نموذج متحيز في التوظيف أو الإقراض أو الرعاية الصحية ، فيمكنه تعزيز الأنماط الضارة بهدوء تحت ستار الموضوعية. هذا هو المكان الذي تصبح فيه طبيعة الصندوق الأسود من الذكاء الاصطناعي مسؤولية. تقوم المؤسسات بنشر نماذج قوية دون فهم تمامًا لكيفية عملها أو كيفية تأثير مخرجاتها على أشخاص حقيقيين.
هذه ليست مجرد مخاطر نظرية. لا يمكنك فحص كل سطر من بيانات التدريب أو اختبار كل إخراج ممكن. على عكس البرامج التقليدية ، لا توجد طريقة نهائية لإثبات أن نموذج الذكاء الاصطناعي آمن أو موثوق به أو خالية من العواقب غير المقصودة.
نظرًا لأنه لا يمكنك اختبار نماذج الذكاء الاصطناعى بالكامل أو التخفيف بسهولة من الآثار المتصلة بسلوكها ، فإن الشيء الوحيد المتبقي هو الثقة. لكن الثقة لا تأتي من الأمل. إنه يأتي من الحوكمة. تنفذ المنظمات إشرافًا واضحة لضمان فحص النماذج ، وتتبع الأصل ، ومراقبة السلوك مع مرور الوقت. هذا ليس مجرد تقني. إنها استراتيجية. إلى أن تعامل الشركات منظمة العفو الدولية مفتوحة المصدر مع نفس التدقيق والانضباط مثل أي جزء آخر من سلسلة إمداد البرمجيات ، فسيتعرضون للمخاطر التي لا يمكنهم رؤيتها مع العواقب التي لا يمكنهم التحكم فيها.
- تأمين Open Source AI: دعوة للعمل
يجب على الشركات التعامل مع الذكاء الاصطناعي مفتوح المصدر بنفس دقة أمان سلسلة إمداد البرمجيات ، وأكثر من ذلك. تقدم هذه النماذج مخاطر جديدة لا يمكن اختبارها أو فحصها بالكامل ، لذلك فإن الإشراف الاستباقي ضروري.
- وضع الرؤية في استخدام الذكاء الاصطناعي:
لا تملك العديد من المؤسسات بعد الأدوات أو العمليات للكشف عن مكان استخدام نماذج الذكاء الاصطناعى في برامجها. دون رؤية تبني النموذج ، سواء كانت مضمنة في الطلبات أو خطوط الأنابيب أو واجهات برمجة التطبيقات – أمر مستحيل. لا يمكنك إدارة ما لا يمكنك رؤيته.
- اعتماد أفضل الممارسات لسلسلة التوريد البرمجيات:
تعامل مع نماذج الذكاء الاصطناعى مثل أي مكون برامج حرج آخر. وهذا يعني المسح الضوئي للثغرات المعروفة ، والتحقق من صحة مصادر بيانات التدريب ، وإدارة التحديثات بعناية لمنع الانحدارات أو المخاطر الجديدة.
- تنفيذ الحوكمة والإشراف:
العديد من المنظمات لديها سياسات ناضجة للاستخدام التقليدي مفتوح المصدر ، وتستحق نماذج الذكاء الاصطناعي نفس التدقيق. إنشاء أطر الحوكمة التي تتضمن عمليات الموافقة النموذجية ، وتتبع التبعية ، والمعايير الداخلية لاستخدام الذكاء الاصطناعي الآمن والمتوافق.
- اضغط من أجل الشفافية:
منظمة العفو الدولية لا يجب أن تكون صندوقًا أسود. يجب على الشركات أن تطالب الشفافية حول النسب النموذجية: من قام ببناءه ، وما هي البيانات التي تم تدريبها ، وكيف تم تعديلها ، ومن أين أتت. يجب أن تكون الوثائق هي القاعدة ، وليس الاستثناء.
- الاستثمار في المراقبة المستمرة:
مخاطر الذكاء الاصطناعي لا تنتهي عند النشر. تقوم فاعلات التهديدات بالفعل بتجربة الحقن الفوري ، والتلاعب النموذجي ، والمآثر العدوانية. يمكن أن تساعد المراقبة في الوقت الفعلي والكشف الشاذ في القضايا السطحية قبل أن تتسلل إلى حالات فشل أوسع.
يعكس قرار Deepseek بمشاركة عناصر رمز النموذج الخاص به اتجاهًا أوسع: بدأ اللاعبون الرئيسيون في الانخراط مع مجتمع AI مفتوح المصدر ، حتى لو ظلت الشفافية الكاملة بعيد المنال. بالنسبة للمؤسسات التي تستهلك هذه النماذج ، فإن إمكانية الوصول المتزايدة هذه فرصة ومسؤولية. حقيقة أن النموذج متاح لا يعني أنه جدير بالثقة افتراضيًا. يجب تطبيق الأمن والإشراف والحوكمة في اتجاه مجرى النهر لضمان أن تكون هذه الأدوات آمنة ومتوافقة ومتوافقة مع أهداف العمل.
في السباق لنشر الذكاء الاصطناعي ، الثقة هي الأساس. وتتطلب الثقة الرؤية والمساءلة والحوكمة في كل خطوة على الطريق.
براين فوكس هو المؤسس المشارك وكبير موظفي التكنولوجيا في Sonatype، شركة أمان سلسلة التوريد البرمجيات.
