كانت شركة OpenAI ضحية لاختراق في العام الماضي، والذي تم الكشف عنه الآن. الموظفين المطلعين في أبريل 2023، ذكرت صحيفة نيويورك تايمز. نظرًا لعدم سرقة أي معلومات عن العملاء أو الشركاء، قرر المسؤولون التنفيذيون عدم الكشف عن الاختراق للجمهور، وفقًا لمصادر مجهولة لصحيفة نيويورك تايمز.
باعتبارها شركة خاصة، لا تتحمل OpenAI نفس التزامات الإبلاغ عن الاختراقات التي تتحملها الشركات العامة. ومع ذلك، فهي عملاق في صناعة الذكاء الاصطناعي الناشئة اليوم، وهي الصناعة التي تعد بإعادة تشكيل الطريقة التي ندير بها أعمالنا ونعيش بها حياتنا. ما الذي نعرفه عن هذا الاختراق الآن، وكيف يمكن أن يغذي المحادثة حول الشفافية في مجال الذكاء الاصطناعي؟
عالم التجسس المظلم
التفاصيل حول الاختراق قليلة. لم تكشف الشركة عن الاختراق للجمهور أو لوكالات إنفاذ القانون. سرق المخترق معلومات من منتدى مناقشة للموظفين حول تقنية OpenAI، لكن الشركة حكمت بأن هذا الشخص لم يكن مرتبطًا بأي حكومة أجنبية محددة، وفقًا لتقرير The Times. لم تستجب OpenAI لطلب InformationWeek للتعليق.
لا يزال هناك الكثير من الأسئلة التي لم تتم الإجابة عليها. “هل كان [a] “مجرم إلكتروني؟ هل كان منافسًا؟ ماذا سرقوه، وكيف دخلوا؟” إيريك أونيل، مؤسس شركة استشارات المخاطر مجموعة جورج تاون وشركة الأمن السيبراني نيكساشور، يسأل.
ورغم أن شركة OpenAI اعتبرت الحادث الأمني لا يشكل تهديدًا للأمن القومي، فقد دق ناقوس الخطر لدى بعض موظفيها. فقد أعرب ليوبولد آشنبرينر، الباحث السابق في الشركة، عن مخاوفه من أن أمن OpenAI ليس كافيًا لمنع سرقة الأسرار من قبل الجهات الفاعلة في الدولة، وفقًا لصحيفة The Times.
“حسنًا، إذا كان بإمكان مهاجم واحد الدخول، فماذا عن الصين أو روسيا أو إيران أو كوريا الشمالية؟” يتساءل أونيل، وهو عميل سابق لمكافحة الإرهاب والاستخبارات المضادة في مكتب التحقيقات الفيدرالي.
إن شركات الذكاء الاصطناعي، وشركة OpenAI واحدة من بين العديد من الشركات الأخرى، تشكل أهدافًا قيمة لحملات التجسس التي تدعمها جهات فاعلة تابعة لدولة أو شركات منافسة. ورغم أن هذا الاختراق ربما لم يسفر عن سرقة الكود، فإنه قد يكون ذا قيمة للفاعل الذي يقف وراءه.
ويشير أونيل إلى أن “كل جزء صغير يمكنك تعلمه عن التكنولوجيا التي تريد سرقتها هو شيء يمكنك استخدامه لإتقان التكنولوجيا الخاصة بك”.
مع وجود الكثير من الأموال على المحك، فإن سرقة الملكية الفكرية سوف تكون أداة يستخدمها البعض لشق طريقهم نحو ميزة تنافسية. يقول جاك بيركويتز، كبير مسؤولي البيانات في شركة “إنتلجنس”: “سوف يجني الأفراد مليارات الدولارات من هذا، وملايين الدولارات من هذا”. الأمن“وهي شركة متخصصة في الذكاء الاصطناعي تركز على الاستخدام الآمن للبيانات وGenAI. وبالتالي، يمكن تغيير أخلاقيات وسلوكيات الناس.”
الشفافية في عصر الذكاء الاصطناعي
تواجه شركة OpenAI شكوكًا بشأن نهجها في الشفافية. وقد حظي المنتقدون بيوم حافل من السخرية استخدام الشركة لكلمة “مفتوح” في اسمها عندما يتعلق الأمر الآن باتباع نهج المصدر المغلق، فإن القرار بعدم الكشف عن الاختراق يمثل ضربة أخرى للشفافية.
يقول أونيل: “أعتقد أنك مسامح أكثر على تعرضك للاختراق ثم الكشف عنه مقارنة بما فعلته OpenAI، والذي لا أستطيع أن أراه إلا كمحاولة لإخفاء الأمر”.
تُعد شركة OpenAI بمثابة قضيب صاعق للتدقيق بسبب مكانتها البارزة في سوق الذكاء الاصطناعي، ولكنها بعيدة كل البعد عن الشركة الوحيدة في هذا المجال والهدف الوحيد للاختراقات.
“هل هناك خروقات أخرى؟ على الأرجح، نعم. أعتقد أنه من السذاجة أن نفترض أن لا شيء يحدث هناك”، كما يقول ستيف بينتون، نائب رئيس أبحاث التهديدات في شركة الأمن السيبراني شذوذ“إنه هدف جذاب للغاية؛ ومن المؤكد أنه سيحدث.”
إن العديد من الشركات التي تخوض غمار سباق الذكاء الاصطناعي لم تزاول أعمالها إلا منذ فترة قصيرة. وفي الصناعات شديدة التنافسية التي تحتاج إلى استحواذ على حصة سوقية كبيرة، غالباً ما يكون للابتكار القدرة على التفوق على الأمن.
“هم [companies] بحاجة إلى … ليس فقط [be] ويقول بيركويتز: “لا يتعلق الأمر بإنفاق الأموال على وحدات معالجة الرسوميات، بل يتعلق أيضًا بأنظمة الإدارة والأمن وكل الأشياء الأخرى التي تضعها الشركات الأكثر نضجًا لحماية عملائها ومستثمريها ومساهميها”.
في ظل التهديد الحقيقي المتمثل في سرقة الملكية الفكرية للذكاء الاصطناعي واحتمال حدوث خروقات دون علم المستخدمين والجمهور، فماذا يعني ذلك بالنسبة للصناعة في المستقبل؟
ومن المرجح أن ينمو الطلب على الشفافية مع تفكير الشركات في كيفية تطبيق حوكمة الشركات على استخدام الذكاء الاصطناعي.
“سيبدأ الضغط على هذه الشركات إما لتكون أكثر شفافية أو ستختار الشركات العمل مع [AI] “إن الشركات التي تتمتع بقدر أكبر من الشفافية ببساطة لأنها تتحمل مسؤولية حماية المصالح الفضلى لموظفيها وعملائها ومساهميها”، كما يقول بيركويتز.
ورغم أن المخاوف المتعلقة بالأمن القومي فيما يتصل بالذكاء الاصطناعي لا تزال غامضة الآن، فمن الممكن أن تصبح أكثر وضوحا في المستقبل. ومع تكامله مع المزيد والمزيد من الشركات والأنظمة، هناك احتمال أكبر للتأثير في العالم الحقيقي إذا تم اختراق تكنولوجيا الذكاء الاصطناعي أو سرقة الملكية الفكرية. ويقول بينتون: “الوضع الذي يتجه إليه الذكاء الاصطناعي أصبح أشبه بالبنية الأساسية الوطنية الحيوية”.
لقد أصبح الذكاء الاصطناعي بالفعل محور الكثير من التدقيق الحكومي، ومن المحتمل أن تلعب التنظيمات دورا في تحديد مدى الشفافية التي يتعين على الشركات التي تبني هذه التقنيات أن تتحلى بها.
ويرى أونيل أنه من الممكن أن يكون هذا الاختراق موضوع اهتمام الحكومة. ويقول: “أظن أننا سنرى قريبًا جدًا نوعًا من التحقيق، تحقيقًا من جانب الكونجرس، لمحاولة فهم كيفية حدوث الاختراق بشكل متعمق، وما الذي ضاع، وما إذا كانت هناك قضايا تتعلق بالأمن القومي”.
ومن المرجح أن تستغرق الدعوات إلى الشفافية، سواء من خلال الطلب في السوق أو الإلزام الحكومي، بعض الوقت قبل أن تؤدي إلى تغيير، ولكن من غير المرجح أن يتباطأ تبني الذكاء الاصطناعي. وسوف يحتاج قادة المؤسسات إلى تحديد ما يتوقعونه من شركات الذكاء الاصطناعي من حيث الأمن والشفافية، وسوف يحتاجون إلى النظر في أدوارهم الخاصة في ضمان تشغيل الذكاء الاصطناعي بأمان في بيئاتهم.
ويرى بينتون أنه ينبغي التعامل مع الذكاء الاصطناعي باعتباره موظفاً جديداً ينضم إلى فريق العمل. ويقول: “لن تسمح لشخص ما بالدخول إلى عملك من الشارع والبدء في القيام بأشياء لصالح مؤسستك. وعلى نحو مماثل، يتعين عليك التفكير ملياً في الوصف الوظيفي لاستخدام الذكاء الاصطناعي؟ وكيف ندرب هذا الموظف الجديد؟ وكيف سيتم الإشراف عليه؟ وكيف نحكم على أدائه؟”.
ومع تزايد اعتماد الذكاء الاصطناعي، ستظل مسألة الشفافية ذات أهمية قصوى. ويقول بينتون: “إن استخدام شيء قوي مثل الذكاء الاصطناعي يعتمد بشكل مطلق على الثقة، والسبيل إلى بناء الثقة هو تحقيق الشفافية”.
