أطلقت Keysight Technologies Keysight AI (KAI) منشئ مركز البيانات، مجموعة برامج مصممة لمحاكاة أعباء العمل في العالم الحقيقي لتقييم كيفية تأثير الخوارزميات والمكونات والبروتوكولات الجديدة على أداء تدريب الذكاء الاصطناعي (AI).
في الأساس ، تعزى إمكانيات محاكاة عبء العمل في منشئ مركز بيانات KAI إلى تمكين مشغلي الذكاء الاصطناعى ، ومقدمي خدمات معالجة الرسومات (GPU) وموردي البنية التحتية لإحضار عبء عمل واقعية من الذكاء الاصطناعى إلى إعدادات المختبرات الخاصة بهم للتحقق من التصميمات المتطورة لمجموعات AI ومكونات جديدة. يقال إنهم قادرون على تجربة تحديد مخططات التقسيم والمعلمات والخوارزميات لتحسين البنية التحتية وتحسين أداء عبء عمل الذكاء الاصطناعي.
وراء عملية منشئ مركز بيانات KAI ، حقيقة أن مشغلي الذكاء الاصطناعى يستخدمون استراتيجيات معالجة متوازية مختلفة ، مثل تقسيم النماذج ، لتسريع تدريب نموذج الذكاء الاصطناعي. محاذاة نموذج التقسيم مع طوبولوجيا مجموعة AI والتكوين يعزز أداء التدريب. قال Keysight Technologies إنه خلال مرحلة تصميم مجموعة AI ، من الأفضل الإجابة على الأسئلة الحرجة من خلال التجريب ، مع التركيز على كفاءة حركة البيانات بين وحدات معالجة الرسومات.
تشمل الاعتبارات الرئيسية تصميم توصيل متداخلات في GPU داخل مضيف أو رف الذكاء الاصطناعي ؛ تصميم شبكة التوسيع ، بما في ذلك النطاق الترددي لكل وحدة معالجة الرسومات والطبولوجيا ؛ تكوين موازنة تحميل الشبكة والتحكم في الازدحام ؛ وضبط معلمات إطار التدريب.
تم تصميم القدرة على محاكاة عبء العمل في مركز بيانات KAI لدمج النموذج اللغوي الكبير (LLM) وغيرها من أعباء عمل تدريب نموذج الذكاء الاصطناعى في تصميم والتحقق من مكونات البنية التحتية لمنظمة العفو الدولية ، ولا سيما شبكات. يهدف إلى تمكين التآزر الأكثر تشددًا بين تصميم الأجهزة والبروتوكولات والبنية وخوارزميات تدريب الذكاء الاصطناعي ، وأداء نظام التعزيز.
تستنسخ خدمة محاكاة عبء العمل أنماط اتصالات الشبكة في وظائف تدريب الذكاء الاصطناعى في العالم الحقيقي لتسريع التجريب ، وتقليل منحنى التعلم اللازم للكفاءة وتوفير رؤى أعمق في سبب تدهور الأداء ، والذي لا يمكن تحقيقه بسهولة من خلال تجربة وظائف تدريب AI الحقيقية.
وقالت Keysight النتيجة هي أنه يمكن لعملائها الوصول إلى مكتبة من أعباء عمل LLM مثل GPT و لاما، مع مجموعة مختارة من مخططات تقسيم النماذج الشائعة مثل البيانات الموازية (DP) ، والبيانات المتوازية بالكامل (FSDP) والتوازي ثلاثي الأبعاد (3D).
وأضافت الشركة أن استخدام تطبيق محاكاة عبء العمل في منشئ مركز بيانات KAI قد مكّن مشغلي الذكاء الاصطناعى من تجربة معلمات التوازي ، بما في ذلك أحجام الأقسام وتوزيعها على البنية التحتية المتاحة (JCT). ويعزى ذلك أيضًا إلى السماح للمستخدمين بتحديد التشغيل الجماعي المنخفض الأداء ، والتنقل لأسفل لتحديد الاختناقات وتحليل استخدام الشبكة ، وكمون الذيل ، والازدحام لفهم التأثير الذي لها على JCT.
وقال Ram Periakaruppan ، نائب الرئيس والمدير العام لحلول اختبار الشبكة والحلول الأمنية في Keysight: “مع نمو البنية التحتية لمنظمة العفو الدولية على نطاق واسع ، تصبح الحاجة إلى التحقق من صحة وتحسين المكاسب الكاملة أمرًا بالغ الأهمية”.
“لتجنب التأخيرات المكلفة وإعادة العمل ، من الضروري تحويل التحقق من الصحة إلى مراحل سابقة من دورة التصميم والتصنيع. يجلب مضاهاة عبء العمل في مركز KAI Data Center Builder مستوى جديدًا من الواقعية إلى مكونات AI وتصميم النظام ، مما يؤدي إلى تحسين عبء العمل لأداء الذروة.”
