AI التوليدي (Genai) الأدوات التي يستخدمها المحتالون الإجراميون السيبرانيون لإنشاء مقنع Deepfake يبدو أن عمليات الاحتيال الصوتي قد أتقنت الفن الرائع لللكنة في غلاسويجي ، وفقًا للكوميديا الكوميدية بايلي كونولي.
في منشور على صفحته على Facebook في وقت سابق من هذا الأسبوع ، حذر كونولي من المعجبين من أن فنانو الاحتيال عبر الإنترنت كانوا ينتحلون شخصية بحسابات وسائل التواصل الاجتماعي الاحتيالية والرسائل المباشرة الذين يطلبون تفاعلات مباشرة مع النجم.
وقال كونولي ، وهو لحام سابق في أحواض بناء السفن في غلاسكو الذين شرعوا في مهنة كمغنية شعبية في الستينيات قبل أن يصبح أحد أكثر الكوميديين المحببين في اسكتلندا ، “أنا لا أتفاعل أبدًا مع المعجبين أو المؤيدين ، ولن أقترح عليّ أن يكونوا يوجهون لي رسالة لي ، ويلتقيون لي بالمال أو شراء البضائع مباشرة. حذار. “
لقد استغل المحتالون والمخادعون مكانة مشاهير منذ فترة طويلة لاستهداف ضحاياهم ، واستخدام وسائل التواصل الاجتماعي للقيام بذلك ليس بالأمر الجديد في حد ذاته.
في خريف عام 2020 ، شهد خرق في X ، الذي لا يزال يُعرف باسم Twitter في ذلك الوقت ، روايات التواصل الاجتماعي لزوجين من المشاهير السابقان Kanye West و Kim Kardashian اختطف لتعزيز عمليات احتيال العملة المشفرة، بينما في وقت سابق من ذلك العام ، المركز الوطني للأمن السيبراني في المملكة المتحدة (NCSC) اضطر لإصدار تحذير عام بعد هويات المغني وكاتب الأغاني إد شيران ، رجل الأعمال ريتشارد برانسون ، وبطل المستهلك مارتن لويس تم اختطافهم بالمثل.
ومع ذلك ، منذ عام 2020 ، ساعدت قوة تجميع Genai Tools في جعل هذه الاحتيال أكثر إقناعًا لأن الجناة قادرون الآن على إنشاء مقطع فيديو وصوت مقنع للغاية. كما يتم استخدام هذه التقنيات من قبل ممثلين أكثر تطوراً – في صيف عام 2024 ، اتهمت عمال الإنترنت الروسيون اختلاط توم كروز المولدة من الذكاء الاصطناعى لنشر الرواية الخاطئة التي تفيد بأن الإرهابيين كانوا يخططون لمهاجمة أولمبياد باريس.
في عالم المؤسسات ، يركز طعم منظمة العفو الدولية على مثل هذه الاحتيال الجنائي عبر الإنترنت بشكل أقل تواترا للوصول إلى المشاهير ، ولكن على انتحال شخصية الأفراد الموثوق بهم داخل منظمة لخداع الموظفين مثل شكل من أشكال الهندسة الاجتماعية.
في مقابلة أجريت في عام 2023 للكمبيوتر الأسبوعية ، كشف مؤسس Sailpoint والمدير التنفيذي مارك مكلين كيف سمح لشركته بتخلي عن هويته باستخدام الذكاء الاصطناعي في تجربة ذلك لقد خداع بنجاح ثلث من شاركوا فيه.
اكتشاف AI Deepfakes قضية معينة لأنظمة الأمن التقليدية التي تميل إلى أن تكون أقل فعالية في اكتشاف الوسائط الاصطناعية ببساطة لأنها تبحث عن الأشياء الخاطئة ، على الرغم من وجود عدد من الشركات الناشئة والمقياس من بينهم أخصائيو الأمن الصوتي Pindrop و GetReal Security ، يظهرون لمعالجة هذا.
Ofcom لديه القوة
Rocio Concha ، مدير السياسة والدعوة في أخصائي حماية المستهلك أيّ؟وقال الذكاء الاصطناعى إن المحتالين يساعدون على إنشاء المزيد من عمليات الاحتيال المقنعة التي تهدف إلى سرقة الأموال ، لكنها قالت إن منظم الاتصالات Ofcom بحاجة إلى القيام بالمزيد.
وقال كونشا: “بموجب قانون السلامة عبر الإنترنت ، تتمتع OFCOM بسلطة اتخاذ إجراءات ضد المنصات التي تفشل في منع المحتوى الاحتيالي وتداوله على مواقعهم”.
“يجب ألا يتردد المنظم في اتخاذ إجراءات ضد الشركات التي تحطم القواعد ويجب أن تتأكد أيضًا من أن رموز الممارسة القادمة هي جعل المنصات المسؤولة عن الإعلانات الاحتيالية المدفوعة على مواقعها قوية قدر الإمكان. يجب على الحكومة أيضًا تشريعًا لوقف إعلانات الاحتيال على المواقع التي تقع حاليًا خارج نطاق قانون السلامة عبر الإنترنت.
وقالت: “في غضون ذلك ، يجب أن يكون المستهلكون متشككين للغاية في أي رسائل تدعي أنها من شخصيات عامة تطلب التفاصيل الشخصية. إذا كنت تعتقد أنك قد استهدفت عملية احتيال ، فيمكنك الإبلاغ عنها مباشرةً إلى المنصة المعنية والمركز الوطني للأمن السيبراني”.
