وقال ديبسيك ، الناشئة من الذكاء الاصطناعى في الصين والتي رفعت أسهم التكنولوجيا الأمريكية يوم الاثنين ، إن الهجمات الإلكترونية عطلت الخدمات لمنصة chatbot الخاصة بها. يقول الخبراء إن ضعف الشركة يثير مخاوف بشأن أمان بيانات المستخدمين واستخدامهم.
تسبب Deepseek في ذعر وول ستريت مع إطلاق نموذج اللغة المنخفضة التكلفة والكفاءة في استخدام الطاقة حيث تتنافس الدول والشركات على تطوير منصات AI توليمية متفوقة. تسابق المستخدمون لتجربة طراز R1 الخاص بـ Deepseek ، حيث قاموا بتشكيل ChatGpt من المركز الأول كطبق مجاني على أجهزة Apple المحمولة. عانى Nvidia ، الشركة الرائدة في العالم لرقائق الذكاء الاصطناعى ذات الطاقة العالية من خسارة مذهلة بقيمة 593 مليار دولار-سجل جديد لفقدان سوق الأسهم ليوم واحد.
استمرت رحلة الشركة البرية ليلة الاثنين حيث أبلغت الشركة عن انقطاعها إنها كانت نتيجة “هجمات ضارة واسعة النطاق” ، مما يؤدي إلى تعطيل الخدمات والحد من التسجيلات الجديدة.
يقول إليا كولوتشينكو ، الرئيس التنفيذي في Immuniweb وأستاذ مساعد للأمن السيبراني في جامعة ميريلاند لتكنولوجيا العاصمة ، إنه قد يكون من السابق لأوانه قبول تفسير هجوم الشركة. يقول في رسالة بريد إلكتروني: “لم يتم استبعاده تمامًا أن Deepseek ببساطة لا يمكنه التعامل مع حركة مرور المستخدم المشروعة بسبب عدم وجود بنية تحتية لتكنولوجيا المعلومات القابلة للتطوير بشكل كافٍ ، مع تقديم هذا الانقطاع غير المتوقع كهجوم إلكتروني”.
ويضيف: “الأهم من ذلك ، أن هذا الحادث يشير إلى أنه في حين أن العديد من الشركات والمستثمرين مهووسون بالضجيج الذكاء الاصطناعي ، فإننا لا نزال نفشل في معالجة قضايا الأمن السيبراني التأسيسي على الرغم من الوصول إلى تقنيات Genai القوية المزعومة.”
الشيطان في تفاصيل المستخدم
بالنظر إلى الانتهاك المحتمل ، يجب أيضًا مشاركة خبراء الأمن حول وصول Deepseek إلى بيانات المستخدمين ، والتي بموجب لوائح الذكاء الاصطناعى الصارمة في الصين ، مع الحكومة.
يقول مايك ليبرمان ، CTO لشركة أمان سلسلة التوريد في سلسلة توريد البرمجيات ، في مقابلة عبر البريد الإلكتروني: “جميع نماذج الذكاء الاصطناعي لديها نفس المخاطر التي يمتلكها أي برنامج آخر ويجب معاملتها بنفس الطريقة”. “عمومًا ، يمكن أن يكون لدى الذكاء الاصطناعى نقاط ضعف أو سلوكيات ضارة … على افتراض أنك تدير منظمة العفو الدولية متابعة ممارسات أمنية معقولة ، على سبيل المثال ، الرمل ، فإن الشواغل الكبيرة هي أن النموذج متحيز أو معالج بطريقة ما للرد على المطالبات بشكل غير دقيق أو ضار”.
يقول Adrianus Warmenhoven ، وهو خبير الأمن السيبراني في NordvPN ، إن الوصول إلى معلومات المستخدم التي يحتمل أن تكون حساسة للمستخدم يجب أن يكون مصدر قلق أمني أعلى. يقول Warmenhoven في رسالة بريد إلكتروني: “إن سياسة الخصوصية الخاصة بـ Deepseek ، والتي يمكن العثور عليها باللغة الإنجليزية ، توضح: يتم تخزين بيانات المستخدم ، بما في ذلك المحادثات والاستجابات التي تم إنشاؤها في الخوادم على الصين”. “يثير هذا المخاوف بسبب جمع البيانات الموضحة-بدءًا من معلومات المشتركة بين المستخدمين إلى البيانات من مصادر خارجية-والتي تندرج تحت المخاطر المحتملة المرتبطة بتخزين هذه البيانات في ولاية قضائية مع معايير الخصوصية والأمان المختلفة.”
يقول Warmenhoven أن المستخدمين بحاجة إلى أن يكونوا على أهبة الاستعداد: “للتخفيف من هذه المخاطر ، يجب على المستخدمين تبني نهج استباقي لأمنهم السيبراني. ويشمل ذلك التدقيق في شروط وأحكام أي منصة تشارك معها ، وفهم مكان تخزين بياناتهم ومن لديه الوصول إليها. “
تقول جينيفر ماهوني من Optiv ، مديرة الممارسة الاستشارية لإدارة البيانات والخصوصية والحماية ، “مع دخول منصات الذكاء الاصطناعى من أعداء الأجانب إلى السوق ، يجب على المستخدمين التشكيك كن المنتج وبيانات المستخدم الخاصة بك قيمة. إذا تعاني تقنية غير مؤهلة من الهجوم الإلكتروني ، فقد تصبح ضحية لسرقة الهوية أو الهندسة الاجتماعية “.
خطر الأمن القومي
تم حبس الصين والولايات المتحدة في معركة استراتيجية على هيمنة الذكاء الاصطناعي. منعت الولايات المتحدة ، بموجب إدارة بايدن السابقة ، وصول الصين إلى رقائق الذكاء الاصطناعي القوية. إن قدرة Deepseek على إنشاء AI chatbot يمكن مقارنتها بأفضل نماذج Genai التي تنتجها الولايات المتحدة في جزء صغير من التكلفة والسلطة يمكن أن تمنح الأمة العدائية اليد العليا مع سباق البلدان لتطوير الذكاء العام الاصطناعي (AGI).
“من الذكاء الاصطناعي وحساب السحابة المرتبطة بهما الآن الأصول الإستراتيجية للأمة” ، كما يقول Gunter Ollman ، CTO في شركة الأمن Cobalt ، لـ Information Week في مقابلة عبر البريد الإلكتروني. “أمنها أمر بالغ الأهمية ويستهدف من قبل الدول المنافسة مع الموارد الإلكترونية والبدنية الكاملة التي يمكنهم حشدها. من الصعب تقييم رمز/نماذج الذكاء الاصطناعى إلى نقاط الضعف واستثمها … “
يقول أولمان إن المنظمات يجب أن تكون حذرة أيضًا من استخدام تقنية Deepseek مفتوحة المصدر. “يجب أن تخطط المنظمات التي تبني على قمة AI مفتوح المصدر لعلاج دماء مستقبلية محتملة من نقاط الضعف والمآثر في المستقبل القريب.”
يمكن لأداة GENAI الشهيرة أن تجذب المستخدمين المطمئنين إلى السقوط لدعاية الدولة القومية العددية. يقول أولمان إن تعريف “هجمات الباب الخلفي” الذي ينطوي عادةً على رمز ضار يجب توسيعه إلى معلومات مضللة ضارة. “قد يمتد الخلفيات إلى التأثير السياسي والاجتماعي ، مثل إجابات النموذج المعدل التاريخ … ربما تعتبر نماذج الذكاء الاصطناعى التي تقودها الدولة مفتوحة المصدر هي المكافئ الحديث للمبشرين الدينيين في القرون الماضية.”
