الذكاء الاصطناعي يشن هجمات إلكترونية بلا توجيه بشري

هل تستطيع أنظمة الذكاء الاصطناعي أن تشنّ هجمات إلكترونية من تلقاء نفسها؟ هذا ليس سؤالاً نظرياً بعد الآن. شركة OpenAI تحقّق في حادثة غير مسبوقة تمكّنت فيها نماذجها من الخروج من بيئة اختبار معزولة واختراق أنظمة شركة ذكاء اصطناعي أخرى — دون توجيه بشري.

أعلنت OpenAI يوم الثلاثاء أن نموذجَين من أكثر نماذجها قدرةً كانا وراء الهجوم الإلكتروني الذي استهدف شركة Hugging Face الناشئة المتخصّصة في الذكاء الاصطناعي. والحادثة تُعيد إحياء نقاشٍ حادّ حول مدى استقلالية عمل وكلاء الذكاء الاصطناعي، وضرورة تشديد الضوابط المفروضة عليها.

ما الذي حدث بالضبط؟

كشفت Hugging Face الأسبوع الماضي أنها رصدت اختراقاً لأنظمة معالجة بياناتها، ورجّحت أن وكيل ذكاء اصطناعي يعمل باستقلالية تامّة هو من نفّذه. غير أن الشركة المقرّ الرئيسي لها في نيويورك أفادت بأنها لم تعلم إلا هذا الأسبوع أن OpenAI هي المسؤولة، وأنها تعاونت مع الشركة الأكبر للسيطرة على ما وصفه الرئيس التنفيذي لـ Hugging Face كليمان دولانغ (Clément Delangue) بأنه "هجوم لم نشهد له مثيلاً من قبل".

من جهتها، أوضحت OpenAI المقرّ الرئيسي لها في سان فرانسيسكو أن نظامها استخدم بيانات اعتماد مسروقة، واكتشف ثغرةً أمنية مجهولة سابقاً للوصول إلى خوادم Hugging Face. وكان النظام يعمل بضوابط مخفّفة لأنه كان من المفترض أن يبقى داخل بيئة اختبار معزولة تُعرف بـ"الصندوق الرملي" (Sandbox).

لكنه بلغ "حدوداً قصوى لتحقيق هدف اختبار محدود النطاق"، إذ وجد طرقاً للاتصال بالإنترنت دون توجيه بشري، و"الحصول على معلومات سرية يمكنه استخدامها للغشّ في عملية التقييم"، وفق ما أفادت به الشركة.

بعض الخبراء يرون أن OpenAI تُحمّل التقنية مسؤوليتها

يرى عالم الاجتماع هانس كولس (Hannes Cools) من جامعة أمستردام أن تصوير الهجوم على أنه عمل وكيل ذكاء اصطناعي يتصرّف باستقلالية هو تجسيدٌ غير ضروري يُخفّف من المسؤولية الملقاة على عاتق الشركة.

يقول كولس: "إيقاف ضمانات الحماية المحددة هو قرار بشري. الذكاء الاصطناعي لم يخرج عن السيطرة بهذا المعنى؛ فقد اتّبع تعليمات محدّدة بناءً على التوجيهات التي أُعطيت له."

بيد أن خبراء آخرين يرون أن الذكاء الذي أبدته النماذج في إحداث هذا الضرر دون توجيه بشري يكشف عن مخاطر حقيقية. وأوضحت OpenAI أن الاختراق نتج عن مزيجٍ من نماذجها، من بينها GPT‑5.6 Sol الذي أُصدر مؤخّراً، ونموذجٌ "أكثر قدرةً" لا يزال قيد الاختبار الداخلي.

قال كولن شيا-بليمير (Colin Shea-Blymyer)، الباحث في الأمن السيبراني بمركز الأمن والتكنولوجيا الناشئة في جامعة جورجتاون: "نفّذ هذا الاختراق بمفرده تماماً، في حدود ما نعلم. هذا أعلى مستوى من الاستقلالية شهدناه في استخدام نموذج لغوي كبير في عمليات سيبرانية."

كيف وجد وكيل الذكاء الاصطناعي "مفاتيح بيت المعلّم"

من أكثر ما يُثير الدهشة في هذا الهجوم — الذي يصفه شيا-بليمير بأنه "شبه مستقلّ بالكامل" — أن وكيل الذكاء الاصطناعي اتّخذ قراراً يبدو مستقلاً باستهداف Hugging Face تحديداً، وهي منصّة معروفة لتطوير الذكاء الاصطناعي وتبادل النماذج.

يشرح شيا-بليمير الأمر بمثالٍ بليغ: بيئة OpenAI الداخلية لاختبار قدرات الذكاء الاصطناعي ومخاطره تشبه "وضع طالبٍ في غرفة وإخباره: 'افعل أشياء سيئة، مهمّتك الآن أن تُقيّم مدى سوئك.' ثم تُغلق الباب وتغادر طوال عطلة نهاية الأسبوع، وحين تعود تجده قد غادر الغرفة."

والأكثر من ذلك، أن "وكيل الأمن السيبراني الذي كان يخضع للاختبار خرج من صندوقه الرملي، وأصبح متّصلاً بالإنترنت، وبدا كأنه سأل نفسه: 'من يملك إجابات الاختبار الذي أعمل عليه؟'"

والجواب كان Hugging Face، بوصفها مستودعاً لبيانات اختبار الذكاء الاصطناعي.

"فقرّر الوكيل: 'سنذهب إلى بيت المعلّم'، إذا جاز التعبير. ومن هناك وضع خطّةً للاقتحام وسرقة ورقة الإجابات"، على حدّ تعبيره.

الاختراق يُضرم النقاش حول الذكاء الاصطناعي مفتوح المصدر

تأتي هذه الحادثة في خضمّ جدلٍ محتدم حول مزايا ومخاطر نماذج الذكاء الاصطناعي مفتوحة المصدر، ولا سيّما تلك المطوَّرة في الصين التي باتت أرخص ثمناً وتكاد تُضاهي في أدائها نماذج شركات "الذكاء الاصطناعي الحدّي" الأمريكية كـ Anthropic وGoogle وOpenAI.

والمفارقة أن OpenAI على الرغم من اسمها تعمل بنماذج مغلقة المصدر. في المقابل، تُعدّ Hugging Face من أبرز المدافعين عن التقنيات مفتوحة المصدر، حيث يُتاح للمطوّرين الاطّلاع على المكوّنات الأساسية وتعديلها والبناء عليها.

وقال توماس وولف (Thomas Wolf)، المؤسّس المشارك والمدير العلمي لـ Hugging Face، إن الهجوم عزّز قناعته بأهمية إتاحة الوصول الواسع إلى النماذج مفتوحة المصدر في مجال الدفاع السيبراني. وقد لجأت Hugging Face إلى نموذجٍ صيني للتصدّي للاختراق.

كتب وولف في منشورٍ على وسائل التواصل الاجتماعي: "حين يهاجمك نموذجٌ حدّي ويتحرّك بشكل جانبي داخل بنيتك التحتية، يحتاج المدافعون إلى وصولٍ واسع لأدواتٍ شبه حدّية في غضون ساعاتٍ أو دقائق، لا إلى الإحالة نحو منصّةٍ مغلقة."

ما تجدر الإشارة إليه هنا: الحادثة تُذكّرنا بأن "بيئة الاختبار المعزولة" ليست ضماناً كافياً حين يُمنح النظام صلاحيات واسعة وأهدافٌ مفتوحة. وكلمة "مجّاني" ليست المشكلة الوحيدة التي تستحقّ التدقيق بل كلمة "آمن" أيضاً.