هل يمكن تقييم أمان الذكاء الاصطناعي بشكل مستقل

هل يمكن لشركة أن تكون "مستقلة" في تقييم مدى أمان منتجها، إن كانت هي نفسها من يدفع فاتورة هذا التقييم؟ هذا هو السؤال الذي يطرحه اتفاق Anthropic الجديد مع Accenture، والذي أعلنته الشركة الأولى عبر منشورٍ على موقعها الرسمي: مبلغ لا يقلّ عن مليار دولار على مدى خمس سنوات، مقابل أن يعمل موظفو وحدة Faculty التابعة لـ Accenture من داخل مقرّ Anthropic نفسه، لتقييم نماذجها واختبار أنظمة حمايتها.

من يراقب المراقب؟

الفكرة، كما وصفتها Anthropic في منشورها، هي أن يقوم فريق Faculty بـ"تقييم النماذج واختبارها بأسلوب الاختراق التجريبي (Red-Teaming)، وإجراء تقييمات المواءمة (Alignment)، وفحص أنظمة الحماية في النماذج". بعبارة أبسط: أشخاص من خارج Anthropic، لكنهم يعملون داخل مكاتبها، سيحاولون كسر النموذج أو دفعه لتجاوز الحدود المفروضة عليه، ثم يبلّغون عن النتائج.

Accenture ليست شركة ناشئة في هذا المجال. هي شركة استشاراتٍ تقنية عملاقة، سبق وجودها موجة الذكاء الاصطناعي الحالية بعقود، ولها خبرة عملية في نشر أنظمة الذكاء الاصطناعي لصالح شركات وحكومات حول العالم. لكنها، بحسب وصفٍ متداول لطبيعة عملها، ليست في "الخط الأمامي" (bleeding edge) للبحث في التعلّم العميق. اشترت Accenture وحدة Faculty في يناير الماضي، لتكون ذراعها المتخصصة في الذكاء الاصطناعي، وهي الوحدة التي ستنتقل موظفوها الآن إلى معسكر Anthropic.

رد السوق كان سريعاً وواضحاً: ارتفعت أسهم Accenture بنسبة 8% في التداول بعد ساعات العمل الرسمية، تعليقاً على الإعلان. وهذا في ذاته يستحق التوقف عنده سوق الأسهم لا يحتفل عادةً بمشاريع "مساءلة" بقدر ما يحتفل بعقودٍ مربحة.

القضية الأعمق: لا معايير تحكم من يرى ماذا

المشكلة الأساسية التي يشير إليها منتقدو هذا النوع من الترتيبات ليست في نوايا الطرفين، بل في غياب أي معايير راسخة تحدّد صلاحيات هؤلاء المقيّمين "المدمَجين": ما الذي يحق لهم الوصول إليه؟ كيف تُوثّق تواصلاتهم مع الشركة التي يراقبونها؟ من يضمن أن تقريراً سلبياً لن يُخفّف أو يُؤجَّل؟ هذه الأسئلة لا تملك Anthropic نفسها إجابات نهائية عنها، وتصف الشركة نهجها بأنه "سيتطور مع الوقت" وهي عبارة مطمئنة على الورق، لكنها لا تعني الكثير عملياً في مرحلة الإعلان الأولى.

هذا القلق ليس نظرياً. في وقائع حديثة، تمكّنت عوامل ذكاء اصطناعي (AI Agents) تابعة لكلٍّ من OpenAI و Anthropic من اختراق مواقع خارجية دون أن تُصدر مختبرات الشركتين أي تنبيه داخلي حول ما جرى. إذا كانت أنظمة المراقبة الحالية لم تلحظ اختراقاً فعلياً لمواقع خارج الشركة، فما الذي يضمن أنها ستلحظ سلوكاً إشكالياً أدقّ داخل النموذج نفسه؟

Anthropic ترد: "المساءلة تبقى مسؤوليتنا"

Anthropic لا تنفي هذا التوتر، بل تحاول تحييده. تقول الشركة إن المقيّمين "لا يقلّلون من مساءلتنا، بل يساعدون على جعلها أكثر قابلية للتحقق. أمان نماذجنا يبقى مسؤوليتنا"، أي أن الشركة تريد تقديم هذا الترتيب كطبقة إضافية من الشفافية، لا كبديل عن التزامها الأصلي.

الاتفاق مع Accenture ليس وحيداً في هذا المسار. تخوض Anthropic حالياً محادثات مع منظمات غير ربحية أخرى معنية بأمان الذكاء الاصطناعي، من بينها METR و Redwood Research و Apollo Research، لتجربة عناصر من نهج "التقييم المدمج" بتمويلها الخاص. ووعدت الشركة بالإعلان عن مقيّمين إضافيين خلال الأسابيع المقبلة. وتجدر الإشارة إلى أن التقييمات الخارجية أصبحت أصلاً جزءاً أساسياً من عملية إصدار أي نموذج لغوي كبير جديد فالسؤال ليس عن وجود هذه التقييمات، بل عن استقلاليتها الحقيقية.

الفارق بين METR أو Apollo Research من جهة، وشركة استشاراتٍ ربحية عملاقة مثل Accenture من جهة أخرى، هو فارق جوهري: الأولى منظمات غير ربحية متخصصة في أمان الذكاء الاصطناعي بالأساس، بينما الثانية طرف تجاري يبني علاقة عمل استراتيجية مليارية الدولار مع الشركة التي يُفترض أن يراقبها. الاستقلالية المالية شرط أساسي لمصداقية أي جهة رقابية وهذا الشرط بالضبط هو ما يبقى غامضاً في هذا الاتفاق حتى الآن.

ما سنعرفه في الأسابيع المقبلة، مع الإعلان عن مقيّمين إضافيين، سيوضح إن كانت Anthropic تسعى فعلاً إلى منظومة رقابة متنوعة ومستقلة، أم أن هذا الإعلان الأول عن Accenture كان استثناءً تجارياً غُلّف بلغة السلامة والمساءلة.