التزييف العميق يهدد الأمن القومي والقطاع المالي

يرن الهاتف. إنه وزير الخارجية يتصل. أو هل هو كذلك؟

بالنسبة إلى المطلعين في واشنطن، لم تعد الرؤية والسمع يصدقان بعد الآن، وذلك بفضل سلسلة من الحوادث الأخيرة التي شملت انتحال شخصيات مزيفة تنتحل صفة كبار المسؤولين في إدارة الرئيس دونالد ترامب.

كما أن التزييف الرقمي قادم إلى الشركات الأمريكية أيضاً، حيث تستخدم العصابات الإجرامية والقراصنة المرتبطين بالخصوم بما في ذلك كوريا الشمالية مقاطع الفيديو والصوت الاصطناعية لانتحال شخصية الرؤساء التنفيذيين والمرشحين للوظائف ذات المستوى المنخفض للوصول إلى الأنظمة الهامة أو أسرار العمل.

وبفضل التقدم في مجال الذكاء الاصطناعي، أصبح إنشاء عمليات تزييف واقعية أسهل من أي وقت مضى، مما يسبب مشاكل أمنية للحكومات والشركات والأفراد، ويجعل الثقة هي العملة الأكثر قيمة في العصر الرقمي.

تتطلب الاستجابة للتحدي قوانين ومحو أمية رقمية أفضل وحلولاً تقنية تحارب الذكاء الاصطناعي.

يقول فيجاي بالاسوبرامانيان، الرئيس التنفيذي ومؤسس شركة Pindrop Security التكنولوجية: "نحن كبشر معرضون للخداع بشكل ملحوظ". لكنه يعتقد أن الحلول لتحدي التزييف العميق قد تكون في متناول اليد: "سوف نقاومها".

التزييف العميق للذكاء الاصطناعي يصبح تهديدًا للأمن القومي

في هذا الصيف، استخدم شخص ما الذكاء الاصطناعي لإنشاء نسخة مزيفة من وزير الخارجية ماركو روبيو في محاولة للتواصل مع وزراء خارجية وعضو مجلس الشيوخ الأمريكي وحاكم ولاية عبر الرسائل النصية والبريد الصوتي وتطبيق Signal للتراسل.

وفي مايو انتحل شخص ما شخصية سوزي وايلز، رئيسة موظفي ترامب.

وكان روبيو مزيف آخر قد ظهر في تطبيق "ديبفيك" في وقت سابق من هذا العام، قائلاً إنه يريد قطع وصول أوكرانيا إلى خدمة الإنترنت Starlink التي يملكها إيلون ماسك. دحضت الحكومة الأوكرانية في وقت لاحق هذا الادعاء الكاذب.

إن الآثار المترتبة على الأمن القومي ضخمة: فالأشخاص الذين يعتقدون أنهم يتحدثون مع روبيو أو وايلز، على سبيل المثال، قد يناقشون معلومات حساسة حول المفاوضات الدبلوماسية أو الاستراتيجية العسكرية.

قال كيني تشان، الرئيس التنفيذي لشركة الأمن السيبراني QiD، عن الدوافع المحتملة: "إما أنك تحاول استخراج أسرار حساسة أو معلومات تنافسية أو تسعى للوصول إلى خادم بريد إلكتروني أو شبكة حساسة أخرى".

يمكن أن تهدف وسائل الإعلام الاصطناعية أيضًا إلى تغيير السلوك. في العام الماضي، تلقى الناخبون الديمقراطيون في ولاية نيو هامبشاير مكالمة هاتفية آلية تحثهم على عدم التصويت في الانتخابات التمهيدية القادمة في الولاية. وبدا الصوت في المكالمة بشكل مريب مثل صوت الرئيس آنذاك جو بايدن ولكن تم إنشاؤه في الواقع باستخدام الذكاء الاصطناعي.

إن قدرة الذكاء الاصطناعي على الخداع تجعل من الذكاء الاصطناعي المزيف سلاحًا قويًا للجهات الفاعلة الأجنبية. وقد استخدمت كل من روسيا والصين المعلومات المضللة والدعاية الموجهة للأمريكيين كوسيلة لتقويض الثقة في التحالفات والمؤسسات الديمقراطية.

قال ستيفن كرامر، المستشار السياسي الذي اعترف بإرسال مكالمات بايدن الآلية المزيفة، إنه أراد أن يبعث برسالة عن المخاطر التي تشكلها عمليات التزييف العميق على النظام السياسي الأمريكي. وقد تمت تبرئة كرامر الشهر الماضي من تهم قمع الناخبين وانتحال صفة مرشح.

قال كرامر: "لقد فعلت ما فعلته مقابل 500 دولار". "هل يمكنك أن تتخيل ماذا سيحدث إذا قررت الحكومة الصينية القيام بذلك؟

المحتالون يستهدفون القطاع المالي بتزييف عميق

إن زيادة توافر البرامج وتطورها يعني أن برامج التزييف العميق تُستخدم بشكل متزايد للتجسس على الشركات والاحتيال على الشركات.

تقول جينيفر إيبانك، نائبة مدير سابق لوكالة الاستخبارات المركزية الأمريكية التي عملت في مجال الأمن السيبراني والتهديدات الرقمية: "القطاع المالي في مرمى النيران." "حتى الأفراد الذين يعرفون بعضهم البعض تم إقناعهم بتحويل مبالغ طائلة من المال."

في سياق التجسس على الشركات، يمكن استخدامها لانتحال شخصية المديرين التنفيذيين الذين يطلبون من الموظفين تسليم كلمات المرور أو أرقام التوجيه.

يمكن أن تسمح عمليات التزييف العميق أيضًا للمحتالين بالتقدم للوظائف وحتى القيام بها تحت هوية مفترضة أو مزيفة. بالنسبة للبعض هذه طريقة للوصول إلى الشبكات الحساسة، أو لسرقة الأسرار أو لتثبيت برمجيات الفدية. والبعض الآخر يريد فقط العمل وقد يعمل في بعض الوظائف المتشابهة في شركات مختلفة في نفس الوقت.

قالت السلطات في الولايات المتحدة إن الآلاف من الكوريين الشماليين الذين يتمتعون بمهارات في مجال تكنولوجيا المعلومات قد تم إرسالهم للعيش في الخارج، مستخدمين هويات مسروقة للحصول على وظائف في شركات التكنولوجيا في الولايات المتحدة وأماكن أخرى. يحصل العمال على إمكانية الوصول إلى شبكات الشركة بالإضافة إلى راتب. وفي بعض الحالات، يقوم العمال بتثبيت برامج الفدية التي يمكن استخدامها لاحقًا لابتزاز المزيد من الأموال.

وقد درّت هذه المخططات مليارات الدولارات على حكومة كوريا الشمالية.

في غضون ثلاث سنوات، من المتوقع أن يكون ما يصل إلى 1 من كل 4 طلبات عمل مزيفة، وفقًا لبحث أجرته شركة Adaptive Security، وهي شركة أمن إلكتروني.

قال براين لونغ، الرئيس التنفيذي لشركة Adaptive: "لقد دخلنا عصرًا يمكن فيه لأي شخص لديه جهاز كمبيوتر محمول وإمكانية الوصول إلى نموذج مفتوح المصدر أن ينتحل شخصية شخص حقيقي بشكل مقنع". "لم يعد الأمر يتعلق باختراق الأنظمة، بل أصبح الأمر يتعلق باختراق الثقة."

الخبراء يستخدمون الذكاء الاصطناعي لمحاربة الذكاء الاصطناعي

يقوم الباحثون وخبراء السياسة العامة وشركات التكنولوجيا الآن بالتحقيق في أفضل السبل لمواجهة التحديات الاقتصادية والسياسية والاجتماعية التي يفرضها التزييف العميق.

يمكن أن تتطلب اللوائح الجديدة من شركات التكنولوجيا بذل المزيد من الجهود لتحديد التزييف العميق على منصاتها وتصنيفها وربما إزالتها. كما يمكن للمشرعين أيضاً فرض عقوبات أكبر على أولئك الذين يستخدمون التكنولوجيا الرقمية لخداع الآخرين إذا أمكن القبض عليهم.

كما أن زيادة الاستثمارات في محو الأمية الرقمية يمكن أن تعزز مناعة الناس ضد الخداع عبر الإنترنت من خلال تعليمهم طرق اكتشاف وسائل الإعلام المزيفة وتجنب الوقوع فريسة للمحتالين.

قد تكون أفضل أداة للقبض على الذكاء الاصطناعي هي برنامج ذكاء اصطناعي آخر، برنامج مدرب على اكتشاف العيوب الصغيرة في التزييف العميق التي قد لا يلاحظها الإنسان.

تقوم أنظمة مثل نظام Pindrop بتحليل ملايين نقاط البيانات في حديث أي شخص لتحديد المخالفات بسرعة. يمكن استخدام النظام أثناء مقابلات العمل أو غيرها من مؤتمرات الفيديو لاكتشاف ما إذا كان الشخص يستخدم برنامج استنساخ صوتي، على سبيل المثال.

قد تصبح البرامج المماثلة شائعة في يوم من الأيام، وتعمل في الخلفية أثناء دردشة الأشخاص مع زملائهم وأحبائهم عبر الإنترنت. قال بالاسوبرامانيان، الرئيس التنفيذي لشركة Pindrop، إن التزييف العميق قد يحل يوماً ما محل البريد الإلكتروني غير المرغوب فيه، وهو تحدٍ تكنولوجي كان يهدد في يوم من الأيام بقلب فائدة البريد الإلكتروني.

وقال: "يمكنك أن تتبنى وجهة النظر الانهزامية وتقول إننا سنكون خاضعين للمعلومات المضللة". "ولكن هذا لن يحدث."