خطر الذكاء الاصطناعي بدون معايير سلامة صارمة

هل يمكن الوثوق بشركةٍ تبني "عقولاً اصطناعية" قد تفوق الذكاء البشري، فيما لا يوجد داخلها من يملك خبرة سلامة الطيران أو المفاعلات النووية؟ هذا هو جوهر السؤال الذي طرحه ديفيد روبنسون، أحد كبار موظفي OpenAI وقائد كتابة تقارير السلامة المرافقة لإطلاقات الشركة الكبرى، حين أعلن استقالته بعد ثلاث سنوات ونصف قضاها هناك، واصفاً نفسه بأنه "من بين الموظفين الأقدم في الشركة". السبب، كما كتب في مقالٍ نشرته مجلة The Atlantic، ليس خلافاً تقنياً بسيطاً، بل تشخيصٌ أعمق: "ثقافة الشركة مكسورة".

لماذا يغادر الرجل الذي كتب تقارير السلامة بنفسه؟

روبنسون لا يتحدث عن قانونٍ غائب أو لائحة تنظيمية لم تُسنّ بعد. هو يقول صراحةً إن نقاش سلامة الذكاء الاصطناعي يجب أن يتجاوز "قواعد محددة أو قوانين جديدة" ليطال ثقافة الشركات نفسها — وهي، بحسب وصفه، مشكلة لا تخص OpenAI وحدها، بل "سيليكون فالي" ككل.

النموذج الذي تعتمده OpenAI، كما يشرح روبنسون، يقوم على ما تسميه الشركة "النشر التكراري" (iterative deployment): إطلاق المنتج، رصد المشاكل حين تظهر، ثم تحسين الضمانات استجابةً لها. بصيغته: "لقد ازدهرت OpenAI عبر التجربة والخطأ (وهو ما تسميه 'النشر التكراري')، بالبحث عن المشاكل وتحسين حواجزها الوقائية استجابةً لها". لكنه يرى في هذا المنطق عيباً بنيوياً: "هذا النهج، بطبيعته، يضمن إخفاقات دورية — وحجم هذه الإخفاقات يتنامى مع ازدياد قدرة الأنظمة". بعبارة أخرى: التجربة والخطأ قد تكون مقبولة في تطبيق توصيل الطعام، لكنها مقامرة مختلفة تماماً حين يتعلق الأمر بأنظمةٍ متزايدة القدرة.

من اختراق Hugging Face إلى "العقلاء المارقة"

ما الذي يجعل هذا الكلام أكثر من مجرد قلقٍ نظري؟ يستشهد روبنسون بحادثةٍ محددة: اختراق أنظمة منصّة Hugging Face من قِبل وكلاء (agents) تابعين لـ OpenAI، إلى جانب كشوفاتٍ متكررة عن عثور الشركة على مزيدٍ من هذه "العقلاء المارقة" أثناء عملها. بالنسبة له، هذه ليست حوادث معزولة يمكن تصحيحها لاحقاً، بل مؤشر على بيئةٍ غير مؤهلة للمهمة: "بيئة يمكن أن تحدث فيها أمور كهذه ليست مكاناً لتنمية عقولٍ اصطناعية قد تكون أذكى منا، وقد لا تفعل ما نريده منها".

معايير المطارات والمفاعلات النووية، لا معايير الستارت أب

هنا يصل روبنسون إلى صلب مطلبه: الشركات التي تطوّر الذكاء الاصطناعي المتقدم تحتاج ضماناتٍ تضاهي تلك المعتمدة في "محطات الطاقة النووية أو المطارات المزدحمة، مع طبقاتٍ من التكرار الاحتياطي وتخطيطٍ دقيق يستغرق وقتاً طويلاً، حتى لا يفتح الخطأ البشري العرضي والحتمي باباً للكارثة". وهو تشبيهٌ لافت لأن صناعة الطيران والطاقة النووية بنتا، عبر عقود، منظومات رقابة وتكرار مؤسسي معقدة تحديداً لأن الخطأ البشري لا يمكن القضاء عليه، بل يُحتوى. لكن روبنسون يقول إنه لم يلتقِ أبداً بزميلٍ في OpenAI يملك خبرةً في "جعل الطائرات تطير بأمان، أو تشغيل المفاعلات النووية دون انصهار، أو المساعدة في نمو النظام المالي دون انهيار". فجوة الخبرة هذه، في نظره، ليست تفصيلاً هامشياً.

في ردها، لم تنفِ OpenAI وجود تحديات، لكنها أكدت أنها تعمل على معالجتها. قال المتحدث باسمها درو بوساتيري: "نحرص على ألا تصبح نماذجنا أكثر قدرةً مما يمكننا إدارته وتأمينه بأمان، ونوقف التدريب أو نحجب النماذج عندما نحتاج إلى التباطؤ"، مضيفاً أن الشركة "تجري تغييراتٍ جوهرية لتعزيز الأمان في بيئات البحث والاختبار، وتدريب النماذج على إنجاز المهام بمسؤولية لا مجرد إنجازها، وتوسيع العمل مع جهات تقييم خارجية، وتحسين المراقبة اللحظية لرصد السلوكيات المقلقة والاستجابة لها في وقتٍ أبكر من عملية التدريب".

لكن روبنسون لا يكتفي بالضمانات التقنية؛ فهو يطرح سؤالاً أعمق حول "المحاذاة" (alignment) — أي مدى توافق سلوك الأنظمة مع القيم البشرية. وبنظرة ساخرة بعض الشيء من اللغة التسويقية السائدة في هذا المجال، يصف المقاييس الحالية بأنها "غامضة وفضفاضة" (touchy-feely)، قائلاً إن "مقاييس مدى توافق" الأنظمة "مع القيم الإنسانية خشنة وغير دقيقة". وتحذيره واضح: "كلما سمحت الصناعة للنماذج بالنمو أكثر ذكاءً فيما تبقى هذه المشاكل دون حل، كلما ازداد خطر وضعنا".

ليس روبنسون وحده

استقالة روبنسون، التي كشفتها أولاً صحيفة Business Insider، تأتي في سياقٍ أوسع من التململ داخل صناعة الذكاء الاصطناعي. فقبل أشهر، ترك جاكوب كوكسون — الذي عمل باحثاً في كلٍّ من OpenAI و Anthropic — منصبه، قائلاً إن شركات الذكاء الاصطناعي "تقامر بحياتنا". تصريحات كوكسون أشعلت نقاشاً واسعاً، دفع الرئيس التنفيذي لشركة Anthropic، داريو أموداي، إلى الكشف عن خطةٍ لتطويرٍ أكثر حذراً. وهذا الأسبوع فقط، اجتمع مسؤولون تنفيذيون كبار في قطاع الذكاء الاصطناعي بالرئيس الأمريكي دونالد ترامب، ووقّعوا تعهداً غير ملزمٍ يبدو أنه كُتب على عجل، يقضي بتطبيق مزيدٍ من ضوابط السلامة.

روبنسون نفسه لم يُخفِ أنه لجأ إلى شركة علاقاتٍ عامة قبل نشر مقاله — وهي خطوة يعترف بأنها باتت جزءاً معتاداً من "دليل" المبلّغين عن المخالفات في قطاع الذكاء الاصطناعي، وقد سبق لتقرير نشرته صحيفة New York Post أن كشف تفاصيل مشابهة بشأن تعامل كوكسون مع شركة علاقاتٍ عامة. لكنه شدّد على أن "قرار التحدث علناً كان قراري وحدي".

والأكثر صراحةً في مقاله هو اعترافه الشخصي بحدود ما كان يمكنه فعله من الداخل: "ربما كان عليّ البقاء والمطالبة بتحولاتٍ جذرية في طاقمنا وثقافتنا، لكن من الناحية العملية، كنت أنا وزملائي مشغولين جداً بالركض السريع لدرجة أننا نادراً ما أتيحت لنا فرصة التفكير في تغييراتٍ كبرى، ناهيك عن تنفيذها فعلياً". وهذا ما قاده إلى الاستنتاج الذي يختم به: "لهذا خلصت إلى أن حوافز أقوى للسلامة — قادمة من خارج الشركة — جزء كبير من حلّ هذه المعضلة بشكل صحيح".

السؤال الذي يتركه روبنسون معلقاً ليس عن تقنيةٍ بعينها، بل عن من يملك سلطة فرض تلك الحوافز الخارجية حين تكون الشركات نفسها، بإقرار أحد أبرز موظفيها، غارقةً في سباقٍ لا يتيح وقتاً للتفكير في أسسها الثقافية.