الرقابة الذاتية في الذكاء الاصطناعي طريق الأمان الجديد

ماذا لو لم تنتظر شركات الذكاء الاصطناعي الكبرى كارثةً تفرض عليها الرقابة، وراقب بعضها بعضاً قبل وقوعها؟ هذا هو السؤال الذي يطرحه مقال رأي نشره موقع Live Science، ويجيب عنه بالعودة إلى تجربة الصناعة النووية في تنظيم نفسها. المقال لا يقترح استبدال القوانين بهذه الرقابة، بل يضعها طبقةً إضافية تعمل معها.

ويلخّص كاتب المقال، الذي لم يُكشف عن اسمه، المأزق بقوله: «كثيراً ما يُناقَش حكم الذكاء الاصطناعي كما لو أنّ الخيارين الوحيدين هما ابتكار مُطلَق الحرية أو سيطرة حكومية ثقيلة اليد. والتاريخ يوحي بوجود طريق ثالث».

لماذا تحتاج الشركات إلى من يراقبها؟

المشكلة التي يبدأ منها المقال بنيوية، وليست أخلاقية. الشركات الرائدة قد تشعر بضغط لمجاراة منافسيها في عمليات إطلاق محفوفة بالمخاطر، حتى لو فضّلت التمهّل. وفي الصناعتين، النووية والذكاء الاصطناعي، يتحمّل المجتمع كلفة التنافس غير المنضبط، بينما تذهب المكاسب إلى الشركات.

والأضرار المحتملة ليست نظرية بالكامل. فقد اخترق نظام ذكاء اصطناعي في أستراليا موقعاً حكومياً للرعاية الصحية.

وتشمل السيناريوهات الأسوأ التي يذكرها المقال تعطيل شبكات الكهرباء أو أنظمة المياه، وأخطاء تشخيص جماعية في المنظومات الصحية.

حتى مجال السلاح دخل الصورة. ففي سبتمبر، كاد «هلوسة» صادرة عن نظام ذكاء اصطناعي تدفع الولايات المتحدة إلى اعتراض سفينة صينية يُشتبه في أنها تنقل مواد نووية إلى إيران، وفق ما نقل. ويقرّ المقال بأن النتائج الكارثية للذكاء الاصطناعي أقل «وجودية» من النتائج النووية، لكنه يرى أن استخدامه في منظومات السلاح يبقى محفوفاً بالمخاطر. وثمة أيضاً دراسة من King's عن كيفية استدلال نماذج الذكاء الاصطناعي وتصعيدها تحت ضغط الأزمات النووية.

ماذا فعلت الصناعة النووية بعد أن اكتوت؟

تقوم الرقابة الذاتية في القطاع النووي على أربعة أعمدة: تدقيق الأقران، والمعايير التقنية، وتبادل المعلومات، والرقابة الخارجية. ونمت هذه المنظومة عبر منظمات دولية وهيئات تنظيمية وطنية وأخرى صناعية. وتنسّق الوكالة الدولية للطاقة الذرية (IAEA)، التي تأسست عام 1957، أعمال الرصد والتحقق. أما الجهات التنظيمية الوطنية وهيئات الصناعة فقد صاغت أعرافاً مهنية حول المخاطر الكارثية.

لكن هذه المنظومة وُلدت من حوادث، لا من حكمة مسبقة. ففي عام 1979 تعرّض مفاعل ثري مايل آيلند (Three Mile Island) قرب هاريسبرغ في بنسلفانيا لانصهار جزئي، بعد عطل بسيط في التبريد. وعزت التحقيقات الحادث إلى عيوب في تصميم الأجهزة والإنذارات، وإلى قصور في تدريب العاملين على الطوارئ. ويمكن الاطلاع على تفاصيل الحادث لدى الرابطة النووية العالمية.

Loading image...

كانت الكلفة العامة فادحة. فقد تراجع التأييد الشعبي للطاقة النووية في الولايات المتحدة من رقم قياسي بلغ 69% عام 1977 إلى 46% عام 1979، بحسب أرقام نشرتها Bulletin. وبلغ الأمر حدّ أن الحادث كاد يقضي على صناعة الطاقة النووية الأمريكية. وفي ديسمبر 1979 أنشأت الصناعة نفسها معهد عمليات الطاقة النووية (INPO) لتحسين السلامة التشغيلية، وتاريخه موثّق على موقعه.

وجاء تشيرنوبل عام 1986 ليُظهر أن إخفاق جهة نووية واحدة قد يطال الجميع. وأعقبت الكارثة تحسينات شملت تطوير المفاعلات وتحسين التدريب وإنشاء شبكات رصد دولية. لكن تشيرنوبل ظلّت أيضاً تذكيراً بأن أنظمة السلامة لا تضمن أماناً مطلقاً. ولمن أراد التوسع في تاريخ الرقابة الذاتية النووية، يشير المقال إلى كتاب «Hostages of Each Other» لجوزيف ريس.

كيف تبدو الرقابة بين الأقران في الذكاء الاصطناعي؟

يقترح المقال حزمة ضوابط: تقييم النماذج قبل نشرها، وتبادلاً آمناً للمعلومات المتعلقة بالسلامة، و«خطوطاً حمراء» للقدرات، وتدقيقاً مستقلاً. ويصف هذه الرقابة بأنها طبقة وسطى بين بيانات الأخلاقيات الطوعية والتشريع. وتبقى الدولة في الخلفية بوصفها جهة الإنفاذ، فالرقابة الخاصة تكمّل التنظيم الحكومي ولا تحلّ محله.

والفكرة ليست غريبة عن أصحاب الشأن. فقد اقترح إيلون ماسك أخيراً مراجعةً من الأقران قبل إطلاق النماذج المتقدمة، كما ورد في The Economist. أما ديميس هاسابيس، الشريك المؤسس لـGoogle DeepMind ورئيسها، فاقترح هيئة معايير للذكاء الاصطناعي على غرار هيئة تنظيم الصناعة المالية (Financial Industry Regulatory Authority).

غير أن المقال لا يغفل المقارنة غير المريحة. فالمواد النووية أسهل في العدّ من الخوارزميات، والمنشآت أصعب إخفاءً من أوزان النماذج. وهذا يجعل التحقق في الذكاء الاصطناعي أصعب بكثير مما كان عليه في المجال النووي.

متى تتحول الرقابة الذاتية إلى واجهة؟

هنا يظهر الجانب الذي يستحق الشك. فحوكمة تقودها الصناعة قد تنقلب إلى سلوك احتكاري، أو إلى مسرحية علاقات عامة، أو إلى وسيلة لتثبيت مواقع الكبار القائمين. وقد استحضر المقال في هذا السياق مقطعاً لألكسندر هاملتون عن الطبيعة البشرية. ولهذا يشترط أن يقترن التنسيق الخاص بالشفافية والتحقق وسلطة عامة.

والبديل، أي ترك الأمر للحكومات وحدها، ليس مطمئناً أيضاً. فالمقال يرى أنها تفتقر إلى القدرة التقنية والسرعة والتوافق الدولي اللازم لمراقبة الذكاء الاصطناعي المتقدم منفردة. ويقترح أن تفرض هي بدورها إبلاغاً إلزامياً، وتقييماً مستقلاً، وضمانات قانونية احتياطية.

وخلاصة المقال دعوة إلى رقابة أقران قابلة للإنفاذ بين حفنة الشركات الرائدة. ويبقى السؤال المفتوح: هل تقبل هذه الشركات قيوداً على بعضها قبل أن يفرض حادث كبير مثل ثري مايل آيلند ذلك عليها؟ يذكّر التاريخ النووي بأن المعهد لم يولد إلا بعد الحادث، وأن الصناعة دفعت ثمن الانتظار.