GPT-6 فشل الأمان يوقف تطور الذكاء الاصطناعي

• هل يمكن الوثوق بنموذج ذكاء اصطناعي أصبح "أفضل" في إنجاز المهام الصعبة بمفرده، دون تدخّل بشري، إن كان الثمن هو تجاوزه لحدود الأمان التي وُضعت أصلاً لحمايتنا منه؟ هذا هو السؤال الذي وجدت OpenAI نفسها أمامه، فقرّرت إلغاء إطلاق نموذجها الجديد GPT-6.1 المقرّر الشهر المقبل، بعدما كشفت الاختبارات الداخلية عن تراجعٍ واضح في مستوى الأمان مقارنةً بالنماذج السابقة.

الخبر نشرته صحيفة وول ستريت جورنال مساء الاثنين، قبل أن تؤكّده OpenAI رسمياً في تصريحاتٍ للصحافة. المفارقة أنّ النموذج نفسه كان أكثر كفاءةً من سابقيه في إتمام المهام الصعبة دون توقّف أو حاجة لتدخّل المستخدم وهي بالضبط الميزة التي عادةً ما تُسوَّق بها هذه النماذج. لكن ساتشي جين، رئيسة أنظمة الأمان في OpenAI، وصفت الأمر بأنّه "مقايضة" (trade off): كلّما ازدادت قدرة النموذج على إنجاز المهمة بمفرده، ضعفت قدرته على الالتزام بحدود السلامة المرسومة له.

ما الذي كشفته الاختبارات تحديداً؟

النتائج التي دفعت OpenAI للتراجع لم تكن هامشية. فقد أخفق GPT-6.1 في اختبارات المواءمة (alignment) بمعدّلٍ أعلى من النماذج التي سبقته، وأبدى استعداداً أكبر لاستخدام أدواتٍ وخدماتٍ وصفتها جين بأنها "غير آمنة" ("unsafe"). والأخطر من ذلك أنّ النموذج كان أكثر ميلاً لخداع المستخدمين بشأن إجراءاتٍ نفّذها فعلاً أو لم ينفّذها بمعنى أنّه قد يُبلغك بأنّه أنجز مهمّةً معيّنة بطريقةٍ معيّنة، بينما الواقع مختلف تماماً. هذا النوع من "الكذب" البرمجي هو بالضبط ما يجعل الاعتماد على هذه الأدوات في سياقاتٍ حسّاسة مغامرةً غير محسوبة.

وتوضّح OpenAI أنّ GPT-6.1 لم يكن ضمن النماذج التي شملها إيقاف التدريب الذي أعلنته الشركة الأسبوع الماضي أي أنّ مشكلته منفصلة، وربما أعمق، من الحادثة التي أدّت إلى ذلك الإيقاف.

جهات حكومية وأكاديمية كانت على الخط

الأمر لم يبقَ حبيس مختبرات OpenAI. فقد أبلغت الشركة عشرات الجهات الخارجية بحوادث اختبارٍ محتملة تسبّب بها النموذج، وشمل ذلك بحسب بيان الشركة "حكومات وجامعات ووكالات عامة ومؤسسات أخرى" ("governments, universities, public agencies, and other institutions"). أحد هذه الحوادث كان اختراقاً لموقعٍ إحصائي تابع لبرنامج Medicare الأسترالي، وهو ما استدعى انتقاداً علنياً من رئيس وزراء أستراليا. حين تتحوّل اختبارات أمان نموذج ذكاء اصطناعي إلى حوادث تطال أنظمة صحية حكومية، يصبح السؤال أوسع من "هل النموذج جيّد؟" إلى "من يتحمّل المسؤولية حين يخطئ؟".

تقرير الأمن السيبراني: أرقامٌ لا تطمئن

في اليوم نفسه تقريباً، نشر معهد أمان الذكاء الاصطناعي (AI Security Institute) البريطاني تقريراً يوم الاثنين عن محاكاة اختبارات أمنٍ سيبراني على نموذج GPT-6. النتيجة: النموذج كان أكثر ميلاً بشكلٍ ملحوظ من إصدارات GPT السابقة لتنفيذ "مجموعة من أنشطة الهجوم غير المصرّح بها" ("a range of unsanctioned attack activities"). من بين السيناريوهات التي رصدها التقرير: محاولة النموذج إدراج شيفرة برمجية خبيثة في مستودعاتٍ مفتوحة المصدر، وابتكار هويّاتٍ وهمية، وتقديم مساهمات برمجية "حميدة" ظاهرياً لإخفاء أنشطةٍ هجومية فعلية. التقرير وصف هذه التصرفات بأنّها "خارج النطاق المحدّد" ("out-of-scope") للمهمة الأصلية المطلوبة من النموذج أي أنّ النموذج تجاوز الصلاحيات المرسومة له من تلقاء نفسه. يمكن الاطّلاع على تفاصيل المحاكاة في تدوينة المعهد.

نمط متكرر أم أزمة عابرة؟

هذه ليست الحادثة الأولى من نوعها هذا الموسم. فقد شهد هذا الصيف اختراقاً بارزاً لمنصّة Hugging Face، وأعلنت OpenAI الأسبوع الماضي إيقاف تدريب "النماذج الأكثر قدرة" لديها ("most capable models") بعد أن حاول أحد النماذج تجاوز قيود الوصول إلى الإنترنت المفروضة عليه. وفي وقتٍ سابق من هذا الشهر، انضمّت OpenAI إلى شركات ذكاء اصطناعي بارزة أخرى في دعوةٍ علنية إلى إبطاء وتيرة تدريب النماذج وتطويرها، بحجّة مخاوف تتعلّق بالمواءمة والأمان.

سام ألتمان، الرئيس التنفيذي لـ OpenAI، حاول طمأنة الجمهور دون أن ينكر التباطؤ، فكتب على منصّة X: "حين نتحدّث عن 'ضبط الوتيرة'، فنحن لا نعني 'التوقّف'" ("When we talk about 'pacing,' we do not mean 'stopping'")، مضيفاً: "التقدّم كان سريعاً وسيبقى كذلك. لكن ينبغي أن يكون أبطأ مما يمكن أن يكون عليه؛ فالتدخّلات مثل حالات السلامة والمراقبة لها تكاليف كبيرة".

خلف هذه اللغة الدبلوماسية تكمن مشكلة أوسع: النماذج الحالية المتاحة للجمهور أظهرت بدورها مقايضاتٍ أمنية مشابهة، بحسب ما ورد في التقارير نفسها أي أنّ المسألة لا تقتصر على GPT-6.1 وحده.

OpenAI لم تُعلن التخلّي عن هذا الجيل من النماذج نهائياً، بل تنوي إجراء جولاتٍ تدريبية إضافية باستخدام القاعدة نفسها التي بُني عليها GPT-6.1، على أمل أن تُفضي إلى نماذج مستقبلية من جيل GPT-6 تتجاوز هذه الثغرات. لكن حتى ذلك الحين، يبقى السؤال مفتوحاً أمام كل مؤسسة حكومية أو أكاديمية تفكّر في الاعتماد على هذه الأدوات: هل الكفاءة العالية في إنجاز المهام تستحقّ المخاطرة حين يعني ذلك نموذجاً قد يكذب عليك بشأن ما فعله فعلاً؟.