في العام الماضي ، ساعدت شركة الأمن Knowbe4 في إثارة موجة من الاهتمام بالعمال الاحتيالي عندما كشفت تفاصيل مكثفة عن كيفية ذلك كشفت عن عمل مارقة كوريا الشمالية الذين تم تعيينهم من قبل الشركة.
Rogue Rogue North Corean Worker Scam أثار اهتمام خبراء الأمن والموارد البشرية (HR) في جميع أنحاء المملكة المتحدة والولايات المتحدة وحول العالم. ويبدو أنه ينتشر ، على الأقل وفقًا لساندرا جويس ، نائب رئيس ذكاء التهديد Googleالذي حذر مؤخرًا من أن عملية الاحتيال كانت عالمية.
“لم يعد الأمر يتعلق بالولايات المتحدة فقط. نراها تتوسع إلى أوروبا وقالت في بعض الحالات ، نرى بعض الانتهاكات الحقيقية “، متحدثًا للصحفيين على هامش Google Cloud المقبل في أبريل 2025.
إلى جانب هذا التوسع في النطاق ، أصبح توسعًا في الاستهداف ، حيث لاحظ عمال كوريا الشمالية الاحتيالية عمليات الابتزاز بالإضافة إلى سحب رواتبهم للمساعدة في تعزيز خزائن النظام المعزولة – وهو عادة ما يكون هدفهم الأساسي.
ولكن قبل أن يتمكن الكوريون الشماليون ، أو من يسعى إلى الاحتيال على الشركة بهذه الطريقة ، يمكنهم البدء في القيام بذلك ، يجب عليهم أولاً تعيينهم. للمساعدة في هذا ، يلجأ المحتالون وغيرهم من الممثلين التهديدات إلى الذكاء الاصطناعي التوليدي (Genai) ، باستخدام نماذج لغة كبيرة (LLMS) و مقاطع فيديو DeepFake لإنشاء مرشحين معقولون يمكنهم بسهولة الانزلاق عبر شبكة المجند.
قابل مرشح Pindrop’s Deepfake
في كثير من الحالات يكونون ناجحين أو ناجحين تقريبًا Pindrop، مورد ل حلول الأمن الصوتي واكتشاف الاحتيال، اكتشف عندما وجد مجندوها أنفسهم وجهاً لوجه مع مرشح DeepFake الذي “تقدم” ليس فقط مرة واحدة ، ولكن مرتين.
وفقًا لـ Pindrop ، بالنسبة إلى وظيفة واحدة وحدها ، تلقت الشركة أكثر من 800 طلب في غضون أيام ، وعندما تطبق تحليلًا أعمق على 300 من ملفات التعريف المرشحة ، وجدت أن أكثر من 100 من هذه الطلبات كانت ملفقة تمامًا ، وكثير منهم يستخدمون استئنافًا من الذكاء الاصطناعى ، وبيانات الاعتماد المخصصة حتى تقنية Deepfake لمحاكاة.
وضع فريق Pindrop له Pindrop Pulse تقنية Deepfake Detection Tech لاستخدامها في مقابلة مع “فرد” لـ “من” الذي أعطى اسمًا مستعارًا إيفان إيفان ، تقدم بطلب للحصول على وظيفة مع Pindrop ، للوهلة الأولى ، بدا أنه مناسب له.
ومع ذلك ، خلال مقابلة إيفان الأولى ، حدد برنامج Pindrop Pulse ثلاثة أعلام حمراء مكنت الفريق من إخبارهم على الفور بأنهم في خطر التعاقد مع مرشح DeepFake.
أولاً ، بدت حركات الوجه الخاصة بـ Ivan غير طبيعية وخرجت قليلاً من التزامن مع الكلمات التي كان يقولها ، على الأرجح تشير إلى أن الفيديو قد تم التلاعب به. ثانياً ، تعثرت المقابلة من تأخر الصوت والبصري ، وتسرب صوت إيفان أحيانًا أو لم يتماشى مع حركات الشفاه. أخيرًا ، عندما طرح القائم بإجراء المقابلة سؤالًا فنيًا غير متوقع ، حدد Pindrop Pulse وقفة “غير طبيعية” ، كما لو أن النظام كان يعالج الرد قبل إعادة تشغيله.
تقول فيجاي بالاسوبرامانيان ، الرئيس التنفيذي لشركة Pindrop: “عندما حدث هذا ، كان الشيء المجنون هو أن المجند قد تم تفتيشها لأنها حصلت على تنبيه بأنها كانت تتحدث إلى Deepfake ، ومن الواضح أن مرشح Deepfake لم يكن يعرف ذلك ، لكن الموقف كان يتقدم به لم يكن مجرد مهندس برمجيات ، وكان مهندس برمجيات في فريق Deepfake.
ثوانٍ … الجولة الثانية
كان لدى Pindrop هروب محظوظ. ومع ذلك ، بعد ثمانية أيام ، عاد إيفان إلى الظهور بتطبيق جديد وصل عبر مجند مختلف. أثار الفضول ، قرر الفريق السماح له بالوصول إلى مرحلة المقابلة.
في الجولة الثانية ، كان من الواضح على الفور أن المرشح الذي انضم إلى المقابلة كان بصريًا شخصًا مختلفًا تمامًا ولكن بنفس الهوية وبيانات الاعتماد مثل الأول. في غضون دقائق ، واجه Ivan X 2.0 مشكلات في الاتصال ، وأسقطت المكالمة وانضمت ، على الأرجح محاولة لإعادة معايرة برنامج DeepFake. عندما تمكنت المقابلة أخيرًا من المتابعة ، فإن نفس القضايا التي سبقتها من قبل ، على الرغم من أن Deepfake نفسها يبدو أنها تحسنت قليلاً.
لقد دعم هذا التحقق من الشكوك في أنه لم يكن يتعامل مع حادثة معزولة ، بل هجومًا متعمدًا ومنسقًا على عملية توظيف Pindrop باستخدام DeepFake Tech.
يقول بالاسوبرامانيان إنه كلف منذ ذلك الحين العديد من فريق التوظيف الخاص به لإجراء مقابلات مع مرشحي Deepfake على الجانب ، وهو متحمس حقًا لاختبار الشركة التي تتطور بسرعة على تكنولوجيا الكشف عن Deepfake.
يقول: “إن الشيء الرائع في Pindrop هو أننا نسحب خيطًا ونتعمق – هكذا تم إنشاء منتجاتنا – لذلك ذهبنا في أعماق ثقب الأرانب هذه ، ونحن الآن نرى مرحلات وكيل موثقة بوضوح من كوريا الشمالية. وقمنا بإجراء مقابلات معهم جميعًا – نحن الآن ننشئ مصيبة لمقابلتها”.
نحن لسنا مستعدين لما سيحدث
تجربة Pindrop تجعل قصة مضحكة ، ولكن وفقًا لمات مويناهان ، الرئيس التنفيذي لشركة GetReal Security، ناشئة أخرى تصنع موجات في مجال توسيع نطاق اكتشاف Deepfake ، إنها خطيرة قاتلة. إنه قلق بشكل لا يصدق بشأن ما سيحدث ويخبر الكمبيوتر أسبوعيًا أنه ليس لدينا أي فكرة عن مدى سوء هذه المشكلة.
يقول: “إن تاريخ الأمن يدور حول الانتحار وكان دائمًا”. “كان هذا يحدث إلى الأبد. لكن ما يحدث الآن هو أن لديك هذه القدرات المتطورة بشكل لا يصدق.
“عندما تفكر في هذا العالم مع Genai حيث يمكنني سرقة بيانات الاعتماد الخاصة بك فحسب ، بل اسمك وصورتك وشبهك ، ما هو الفرق بين الشخص الذي تعتقد أنك تعرفه وترى كل يوم وتتحول ضدك ، مقابل خصم حصلت على بيانات اعتمادك واسمك ، وصورتك وشبهها التي تعتقد أنها حقيقية وتثقك ، وهم يتحولون ضدك.
“لذلك ، عندما تفكر في فكرة الخداع والانتحال ، سيكون خارج عن السيطرة. لا أعرف من أين يتوقف هذا الشيء. إنها فوضى كاملة” ، كما يقول. “وليست الكوريين الشماليين فقط – إنهم هم الذين تم القبض عليهم”.
يضيف Balasubramaniyan: “إن الاحتيال هي لعبة مدفوعة بالنسبة مئوية ، وحتى أفضل حملات الاحتيال تعمل بمعدل 0.1 ٪ من النجاح. واحد من كل ألف عمل. لكن النقطة هي عندما تعمل ، فهي تعمل بشكل كبير. في بعض الأحيان ، تسمح بالتكنولوجيا العميقة ، حيث تتيح أن تكون هناك الكثير من المقياس. من الاحتيال المرشحة ، وأنا لا أعتقد شخصياً لأننا مميزون ، أعتقد أن ذلك لأننا نبحث “.
على أساس أن Pindrop يرى الكثير من المحاولات نفسها ، يعتقد Balasubramaniyan أن معظم المنظمات تتعرض للمرشحين Deepfake بالفعل. في حالة الشركات الكبيرة ذات الإبلاغ عن التوظيف الواسع ، من المحتمل أن يحدث هذا عدة مرات في اليوم.
وفقًا لتوقعات Gartner ، ستكون واحدة من كل أربعة ملفات تعريف مرشحين في جميع أنحاء العالم مزيفة بحلول عام 2028 ، ووفقًا لمكتب إحصاءات العمل في الولايات المتحدة ، حيث يواجه متوسط معدل توظيف في جميع أنحاء الولايات المتحدة من خمسة ملايين شخص كل شهر في عام 2024 ، على افتراض ثلاث إلى ست مقابلات لكل توظيف ، سيواجه إيجابيات الموارد البشرية الأمريكية ما بين 45 مليون و 90 مليون شخص من مرشحات Deepfake.
يقول Balasubramaniyan ، الذي يشبه توظيف مرشح DeepFake لدعوة مصاص دماء لدخول منزلك في فيلم رعب ، إن هذا الفائق يمثل خطرًا غير مسبوق على العمل. يقول: “لقد فعلت ذلك بشكل أساسي”.
يقول مويناهان إن مضاعفة المشكلة هي حقيقة أن مهاجمة الموارد البشرية هي الفوز للجانبين لأن مثل هذه الإدارات لا تحتفظ فقط بمفاتيح بوابات القلعة ولكنها مملوكة لأشخاص الذين تكون النقطة المهمة مفتوحة ومقبولة لنهج جديدة. ويضيف أن الأمر لم يساعد في أن يكون جائحة Covid-19 قد حول الكثير من عملية التوظيف الظاهرية.
يقول مويناهان: “من السهل جدًا استئجار بيئة نائية حيث قد لا ترى أي شخص أبدًا”. “وبعض هذه الهجمات وقحة للغاية. كنت في إحدى الشركات حيث كان هناك مرشح أمريكي من أصل أفريقي ، ثم كان هناك شخص آسيوي تم إسقاطه كأوغراء فعلي-لم يلتقطها لأن الشركة كانت كبيرة جدًا. لقد تم تركيز سوق الإنترنت بأكمله على الباب الخلفي ، والباب الأمامي سهل تمامًا. قد يكون الأمر أسهل.”
ماذا يمكننا أن نفعل حيال ذلك؟
يجب أن نعترف بأنه لا يمكن إيقاف التقدم والاختراع أو التراجع – أو ، لوضعه في أبسط مصطلحات الأمان ، لن يجادل أحد في عدم استنكار القفل ببساطة لأنه من الممكن اختيارها.
بعد أن أمضت سنوات في العمل بزاوية مطلع Rogue الأكثر دراية – لا إدوارد سنودن – يجادل مويناهان بأن صناعة الأمن تحتاج إلى إعادة اختراع مفهوم شريحة التهديد من الداخل. لقد كان من الصعب دائمًا معالجة تهديد الأشخاص الموثوق بهم الذين يذهبون إلى المارقة باستخدام التكنولوجيا الإلكترونية لأنها ليست مشكلة تقنية حقًا. بالإضافة إلى ذلك ، يقول مويناهان ، لم يتم أخذها على محمل الجد لأن الافتقار الضمني للثقة هو معادلة للعديد من الثقافات التجارية.
يقول ، “لقد استأجرت أليكس. يعرف الكثير من الناس أليكس. إنهم يحبون أليكس. لكن لا يمكنك الوثوق به. هذا بيع صعب – البشر هش”.
“لكن هذا ليس ما نتحدث عنه الآن لدينا Genai. يمكننا الآن أن نقول أنك لا تستطيع الوثوق في Genai لأن Genai يمكنه تكرار Alex في نبضات القلب – إنها محادثة مختلفة ، إنها تهديد للهوية ، ولهذا السبب Deepfakes و Deepfakes هوية وهما جانبان من نفس العملة “.
يعتقد بالاسوبرامانيان أن بعض المسؤولية عن المشكلة يجب أن تكمن مع مطوري نماذج الذكاء الاصطناعي. يقول: “إنهم يطورون هذه الأشياء التي لا تتواجد دون أي قلق على السلامة ، وهذا يجب أن يتغير”.
ومع ذلك ، يوافق مع مويناهان على أن صناعة الأمن الأوسع تحتاج أيضًا إلى رفع لعبتها. يقول: “أنت بحاجة إلى قدرات اكتشاف ، وأنا أعلم أن هذه إجابة متحيزة ، لكنني كنت في أمان لفترة طويلة لدرجة أنني أدركت في كل مرة تأتي فيها تقنية جديدة ، ستحصل على إساءة استخدامها. عليك فقط تطوير الذكاء المضاد والتكنولوجيا المضادة لمنع سوء الاستخدام.”
هذا كل شيء جيدًا وجيدًا ، ولكن بالنسبة لقادة الأمن وصناع القرار ، فإن الإجابة على مسألة كيفية حماية منظماتهم من مرشحي DeepFake هي أمر صعب إلى حد ما.
إذن ، ما هو قائد الأمن الذي يجب فعله؟ تتمثل نصيحة Balasubramaniyan إلى CISOs في البدء بنشاط في البحث عن مرشحين DeepFake ، وقبل كل شيء ، طرح الأسئلة الصحيحة.
يقول: “انظر حقًا إلى ما تراه في مؤتمراتك. كم أنت واثق من أن الجميع على المكالمة هو حقًا من يقولون أنهم؟ ويحفرون في الموارد البشرية. يهتم Cisos بالموظفين ، لكنهم يهتمون بالموظفين بعد أن أصبحوا موظفين. عليهم الآن تمديد اختصاصهم إلى قمة القمع”.
يقترح مويناهان نموذجًا مستقبليًا يشبه إدارة أمن النقل الحالية (TSA) بريكيك خدمة المنشورات “الموثوقة” ، والتي تسمح لهم بتخطي بعض جوانب أمن المطارات الأكثر شهرة بعد 9/11 ، من بين امتيازات أخرى. لتحقيق حالة precheck ، يجب على الناس الخضوع لفحص خلفية صارم بشكل معقول ، بما في ذلك الكشف عن أي تاريخ إجرامي ، ويمكن سحب حالة precheck الثمينة في أي وقت ، ولأي سبب ، من قبل السلطات.
“هذا نوع ما نفعله بالفعل [at GetReal]يقول مويناهان. “[We] حاول أن تتأكد من أن الكيان الذي يظهر هو من يقولون إنه ولا أحد يتم خداعه ومزخرف. كشركة أمان إلكترونية مع نبضات القلب الطب الشرعي الرقمي ، نعود إلى ثغرة أمنية البيانات هذه. “
في هذا النموذج ، ليس السؤال الذي يطرحه هو ببساطة ، “هل هذا الشخص عميق؟” ، يصبح مجموعة أوسع من الأسئلة التي تسعى إلى إثبات سبب اختيار شخص معين ليكون مخادعًا ، والذي كان على نفس الدعوة ، وما قالوه وفعلوه ، وما هي حقوق تكنولوجيا المعلومات والامتيازات الأخرى ، وما إلى ذلك.
“هذا هو التحدي” ، يخلص مويناهان. “إنها ليست حقيقية أو مزيفة فقط. عليك أن تفكر في القياس عن بعد والأمن السيبراني وتحمل هذا الأمر حتى لا يكون لديك خصوم يتسللون إلى أنظمة الاتصالات الرقمية الخاصة بك وتتسبب في بعض الأذى الشديد.”
