كيف تراقب الشركات أقوى نماذج الذكاء الاصطناعي؟

من يراقب الشركة التي تبني أقوى نماذج الذكاء الاصطناعي؟ جواب Anthropic هذا الأسبوع: باحثون من خارجها يجلسون في مكاتبها ويستخدمون أدواتها الداخلية، ويحق لهم نشر ما يجدونه دون موافقتها. أعلنت الشركة، في تدوينة نشرتها الخميس، أنها منحت ستة باحثين من منظمة METR وصولاً بمستوى الموظفين، لتقييم نماذجها وممارساتها في السلامة وإدارة المخاطر.

METR منظمة غير ربحية تختبر نماذج الذكاء الاصطناعي الرائدة. ويهمّ القارئ هنا أمران: ما الذي سيراه هؤلاء الباحثون فعلاً، وأين ينتهي حقّهم في قول ما رأوه.

ماذا يعني «وصول بمستوى الموظفين»؟

التفاصيل عملية أكثر مما توحي به العبارة. تسلّم باحثو METR حواسيب محمولة صادرة عن Anthropic، ومساحة مكتبية، وصلاحية استخدام الأدوات الداخلية بمستوى قريب مما تحصل عليه فرق المخاطر في الشركة. ولم تكتفِ الشركة بفتح الباب، فقد شجّعت موظفيها على التعاون معهم. جاء في بيانها: «يُشجَّع موظفو Anthropic على مشاركة المعلومات معهم تماماً كما يفعلون مع زميل يعمل على مخاطر المواءمة».

وفي تدوينتها قدّمت الشركة هدفين معلنين. قالت: «نريد أن نكون خاضعين للمساءلة العلنية عن القرارات التي نتخذها. ونسعى إلى سدّ الفجوة بين ما يفهمه المقيّمون عن أنظمة شركة ذكاء اصطناعي رائدة وما تفهمه الشركة نفسها».

وشبّهت Anthropic هذا النموذج بما تفعله الجهات التنظيمية حين تضع مفتّشين مقيمين داخل أكبر المصارف. والتشبيه مفيد لكنه غير كافٍ، فالمفتّش المصرفي يستند إلى سلطة قانونية، أما METR فتستند هنا إلى اتفاق طوعي مع الشركة التي تقيّمها.

هل تستطيع Anthropic منع النشر؟

الجواب القصير: لا. يحق لـMETR نشر تقييماتها لمخاطر Anthropic وحوادثها وممارساتها دون حق نقض من الشركة. لكن هناك استثناء مقيَّد، إذ تستطيع Anthropic طلب حجب معلومات في فئات ضيقة محدّدة سلفاً، تشمل بيانات العملاء، والمواد المشمولة بالامتياز بين المحامي وموكّله، والمعلومات عن بنى النماذج.

وتصف الشركة الآلية بقولها: «لا تستطيع Anthropic استخدام حق النقض ضد النشر، لكن يمكنها أن تطلب حجب معلومات إذا اندرجت ضمن فئات ضيقة ومحدّدة سلفاً».

والفرق مهم: أن تكون الفئات محدّدة مسبقاً يعني أنها ليست قراراً يُتخذ عند لحظة النشر. وثمة ضمانة ثانية، فباستطاعة METR أن تصف عمليات الحجب علناً وتقيّم مبرّراتها. وبحسب الشركة: «METR حرّة في وصف عمليات الحجب التي نجريها علناً، وفي القول إن كانت ترى أنها مبرَّرة، شريطة ألّا تكشف المعلومات المحجوبة».

أين تقع METR في سلّم المقيّمين؟

لا يقتصر الأمر على METR. تبني Anthropic نظاماً من ثلاث طبقات للمقيّمين، تتفاوت في حجم المعلومات المتاحة وفي صلاحية النشر:

• الطبقة الدنيا: مراجعات ضيقة النطاق، مثل تلك التي تجريها منظمة SecureBio، ويلزم فيها الحصول على موافقة Anthropic قبل النشر.

• الطبقة الوسطى: مقيّمون يحصلون على معلومات أكثر ويستطيعون النشر دون موافقة.

• الطبقة العليا: تضيف الوصول بمستوى الموظفين، وMETR هي المقيّم الوحيد فيها حتى الآن.

بهذا يصبح حق النشر دون موافقة امتيازاً يتدرّج بحسب عمق الوصول، لا قاعدة عامة تسري على كل من يقيّم الشركة.

لماذا الآن؟

منذ أواخر أغسطس، يُعلن كل أسبوع أو أسبوعين عن حادثة جديدة لوكلاء ذكاء اصطناعي تصرّفوا خارج تعليماتهم. وقد زادت هذه الحوادث حدّة المطالبات بفحوص مستقلة لشركات الذكاء الاصطناعي.

وفي سبتمبر اقترح داريو أمودي، الرئيس التنفيذي لـAnthropic، في مقال له وضع مقيّمين خارجيين داخل مختبرات الذكاء الاصطناعي. ووصف ذلك بأنه خطوة أولى نحو إبطاء تطوّر التقنية. وسارعت OpenAI إلى التعهّد بالنهج ذاته. بعد ذلك وقّعت Anthropic وOpenAI وGoogle وMeta وNvidia وxAI اتفاقاً مع البيت الأبيض يلزمها بمراجعة مستقلة. وتفصيل الترتيب الجديد منشور في إعلان Anthropic.

تبقى الاختبارات الحقيقية أمام ما سيصدر لاحقاً: ما الذي ستنشره METR عن الحوادث والممارسات، وكيف ستصف ما حُجب، وهل ستسير الشركات الأخرى الموقّعة على الاتفاق بالقدر نفسه من الانفتاح. فحجم الحجب المعلن، لا نص الاتفاق، هو ما سيقيس جدّية هذه الرقابة.