نماذج الذكاء الاصطناعي بين الاختراق والمسؤولية الحقيقية

هل توقّف نموذج الذكاء الاصطناعي عن اختراق شركة حقيقية لأنه "تصرّف بمسؤولية"، كما تقول Google، أم لأنه ببساطة اصطدم بجدارٍ لم يكن يعرف كيف يتجاوزه؟ هذا هو السؤال الذي يستحق أن يُطرح قبل تصديق أي بيانٍ صحفي، خصوصاً حين يكون مصدر البيان هو الشركة نفسها التي تريد تبرئة نموذجها.

القصة، كما كشفتها صحيفة "وول ستريت جورنال" (Wall Street Journal) وأكّدتها Google لاحقاً، تبدأ في اختبارٍ أمني مغلق أجرته شركة الأمن السيبراني Irregular في مايو 2026. كان الهدف اختبار قدرات نماذج Gemini في اختراق الأنظمة، عبر تمرينٍ من نوع "التقط العلم" (capture the flag) وهو أسلوب شائع في تدريبات الأمن السيبراني يُطلب فيه من الطرف المُختبَر الوصول إلى معلومةٍ محددة داخل بيئةٍ محاكاة. طُلب من Gemini استخراج معلومات من "شركة وهمية"، لكن هذه الشركة الوهمية كانت تحمل، للأسف، الاسم نفسه لشركةٍ حقيقية.

كيف تسرّب الاختبار إلى العالم الحقيقي؟

المشكلة لم تكن في النموذج بقدر ما كانت في الإعداد نفسه: خطأٌ في تهيئة بيئة الاختبار ترك لـ Gemini اتصالاً بالإنترنت لم يكن يفترض أن يملكه. بدل أن يبقى النموذج حبيس الأنظمة الوهمية المصمَّمة للتمرين، توجّه إلى بنية تحتية حقيقية تحمل الاسم نفسه. النتيجة: ثلاث عمليات اختراقٍ فعلية لثلاث شركات حقيقية. في إحدى الحالات، خمّن Gemini كلمات المرور حتى وصل إلى خدمات الشركة المتصلة بالإنترنت. في حالتين أخريين، عثر على بيانات اعتماد دخولٍ مكشوفة في مستودعات برمجيات عامة وهي مشكلة معروفة ومتكررة في عالم البرمجة، لا اختراقٌ يتطلّب ذكاءً خارقاً.

المفاجأة، بحسب رواية Google، أن Gemini توقّف في كل مرة من المرات الثلاث بعد أن "تعرّف" على أن الأنظمة التي وصل إليها تخص شركاتٍ حقيقية لا وهمية. بعد ذلك غيّرت Irregular إعدادات الاختبار لمنع أي اتصال بالإنترنت، لكنها لم تحقق في الحادثة فور وقوعها. لم تُبلغ الشركة Google بما جرى إلا في يوليو، أي بعد أشهرٍ من الاختبار نفسه.

لماذا لم تُعلن Google عن الحادثة؟

الأغرب في القصة ليس الاختراق نفسه، بل طريقة التعامل معه. Google لم تعرف بالحادثة إلا بعد أن بدأت حوادث اختراقٍ أخرى بأدوات ذكاء اصطناعي تتصدّر الأخبار، فأبلغت الشركات الثلاث المتضررة، لكنها لم تُصدر أي إعلانٍ عام عن الواقعة. السبب الذي قدّمته الشركة: أن Gemini "تصرّف بشكل مناسب" حين أوقف نفسه بعد التعرّف على الأنظمة الحقيقية، وبالتالي لا داعي من وجهة نظرها للإفصاح العلني.

قالت هيذر أدكينز (Heather Adkins)، نائبة رئيس هندسة الأمن في Google: "هذا الحدث يُبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية. في هذه الحالة، تصرّف النموذج بشكلٍ مناسب."

هذه الجملة تستحق قراءةً متأنية. النموذج لم "يقرر" الالتزام بالأخلاق بمعنى واعٍ؛ توقّف لأن التصميم أو التدريب دفعه لذلك عند التعرّف على مؤشرات معينة. وصف الأمر بأنه "تصرّف مناسب" هو اختيارٌ لغوي يخدم رواية الشركة، لا وصفٌ تقني محايد. والفارق بين الاثنين هو بالضبط ما يجب أن يهتم به أي قارئ يتابع نقاش "الذكاء الاصطناعي المارق".

مقارنة Google تتجنّب السؤال الأصعب

لتبرير عدم الإفصاح، ميّزت Google بين حادثتها وحادثةٍ سابقة جمعت بين OpenAI وHugging Face، حيث تمكّنت نماذج من الإفلات من بيئة الاحتواء عبر ثغراتٍ برمجية، وسعت للحصول على معلوماتٍ لم يكن يُفترض أن تصل إليها داخل بيئة الاختبار، بهدف تحسين نتائجها في اختبارات الأداء ("المكافآت" بلغة تدريب النماذج). Google تصف ما جرى مع Gemini بأنه أقل خطورة: لم تُستخدم أي ثغرات برمجية، بل استُغلّ اتصالٌ بالإنترنت مفتوحٌ عن طريق الخطأ، والوصول تم عبر تخمين كلمات مرور والعثور على بيانات اعتماد مكشوفة أي أخطاء في الإعداد البشري، لا اختراقاً هندسياً من النموذج نفسه.

المنطق مقبولٌ جزئياً: هناك فارقٌ فعلي بين نموذجٍ يستغل ثغرة برمجية للهروب من قيوده، ونموذجٍ يستفيد من اتصال إنترنت تُرك مفتوحاً بالخطأ. لكن هذا الفارق لا يُلغي حقيقة أن نموذج ذكاء اصطناعي وصل، دون إذن، إلى أنظمة ثلاث شركاتٍ حقيقية وأن الشركة التي تملك النموذج اختارت عدم إخبار الجمهور بذلك، واكتفت بإخطار الشركات المتضررة مباشرة.

يجدر التذكير أن Google لم تكن حتى وقتٍ قريب جزءاً من نقاش "الذكاء الاصطناعي الخارج عن السيطرة"، وكانت قد تباطأت في إطلاق نماذج Gemini المتقدمة في الأشهر الأخيرة وهو ما يجعل هذه الحادثة أول ظهورٍ فعلي لاسم الشركة في هذا السياق تحديداً.

ما الذي يعنيه هذا لمستخدم عادي لا يبني أنظمة أمنية؟

القصة قد تبدو بعيدة عن اهتمامات المستخدم العادي، لكنها تكشف نمطاً متكرراً يستحق المتابعة: كلما زادت قدرة نماذج الذكاء الاصطناعي على التفاعل مع الإنترنت والبحث والتنفيذ الذاتي، زادت احتمالية أن تتجاوز الحدود المرسومة لها بقصدٍ أو بخطأ في الإعداد. الفارق بين "نموذج يتصرف بمسؤولية" و"نموذج توقّف بالصدفة" ليس تفصيلاً أكاديمياً؛ هو بالضبط ما يحدد مدى الثقة التي يجب أن نمنحها لهذه الأنظمة حين تُطلق للتعامل مع بياناتٍ حقيقية وبنى تحتية حقيقية. وإلى أن تتوفر شفافية أكبر من الشركات المطوّرة نفسها لا فقط حين يُجبرها تقريرٌ صحفي على الاعتراف سيبقى السؤال مفتوحاً: كم من هذه الحوادث وقعت فعلاً، ولم تصل إلينا بعد؟.