هلوسة الذكاء الاصطناعي تهدد السلام العالمي

هل يمكن لروبوت محادثة، مهما كان "ذكياً"، أن يدفع دولتين نوويتين إلى حافة حرب؟ الجواب، بحسب تقرير نشر نقلاً عن أربعة مصادر مطلعة على الواقعة، هو نعم وقد حدث ذلك فعلاً هذا العام، حين كاد الجيش الأمريكي يعترض سفينة صينية في الشرق الأوسط بدعمٍ جوي، بناءً على تقرير استخباراتي زائف بالكامل أعدّه محلل في القيادة الأمريكية للعمليات الخاصة استناداً إلى تحليل روبوت محادثة.

كيف يهلوس الذكاء الاصطناعي؟

قبل الدخول في تفاصيل الحادثة، يستحق مصطلح "الهلوسة" (Hallucination) وقفة، إذ اختارته "قاموس كامبريدج" كلمة عام 2023. المصطلح يصف حالة يبتكر فيها النظام معلومات لا وجود لها، غالباً حين تنقص بيانات التدريب السياق الكافي. الظاهرة ليست حصراً على الأنظمة العسكرية؛ فقد تأثر بها كتّاب وصحفيون وباحثون أكاديميون وقضاة وأطباء وأقسام شرطة ومراكز اتصال، بحسب أبحاث نشرتها مجلة Nature. والأهم أن الباحثين يرون أن هلوسة النماذج اللغوية الكبيرة قد تكون مستحيلة الإزالة الكاملة حتى محاولة تضمين تعليمات صريحة في الطلب تقول للنموذج "لا تهلوس" لم تمنح سوى طمأنة محدودة.

هذه ليست مجرد ملاحظة نظرية. في الحادثة التي كشفت، حلّل روبوت محادثة بيانات متعلقة بقائمة شحن سفينة صينية، ودمج كما وصف أحد المصادر "معلومات استخباراتية مفتوحة المصدر مع معلومات استخبارات إشارات سرية موجودة في حيازة الحكومة". النتيجة: تقرير خلص إلى أن السفينة تحمل مكونات لبرنامج تسلّح نووي. المشكلة أن هذا الاستنتاج، كما قال أحد المصادر، "حدّد بشكل غير دقيق نوع الحمولة التي كانت السفينة تنقلها". ولم يكتشف المسؤولون الخطأ إلا قبل تنفيذ عملية الاعتراض المخطّطة، التي كانت تشمل دعماً جوياً. وصف أحد المصادر اللحظة بلا مواربة: التقرير "كان على وشك أن يتسبب في حرب".

سباق البنتاغون على أدوات لم تُحلّ مشكلتها الأساسية

المفارقة أن هذه الحادثة تأتي في وقتٍ يسرّع فيه وزارة الحرب الأمريكية اعتماد الذكاء الاصطناعي، لا يقلّل منه. في يناير أطلقت الوزارة ما سمّته "استراتيجية تسريع الذكاء الاصطناعي"، بهدف بحسب وزير الحرب بيت هيغسيث "أن نجعل كل البيانات المناسبة متاحة عبر أنظمة تقنية المعلومات الموحدة لاستغلالها بالذكاء الاصطناعي، بما في ذلك أنظمة المهام في كل فرع وعنصر من الجيش." وأضاف هيغسيث تحذيراً يستحق التوقف عنده: "الذكاء الاصطناعي لا يكون أفضل من البيانات التي يتلقاها، وسنعمل على التأكد من توفّرها" تحذير بدا، بعد حادثة السفينة، وكأنه نقصٌ لا فائض.

عملياً، هذا التسريع تُرجم إلى منصة "GenAI.mil"، التي أعلنت الوزارة في ديسمبر الماضي أنها ستُبنى على منصة Gemini for Government من Google، ثم أضافت إليها الشهر الماضي "Grok for Government". كما توفّر شركة Anthropic نسخة مخصّصة من نموذجها Claude لأعمال الاستخبارات الأمريكية. ووفق ما أفاد به ممثل عن البنتاغون أمام الكونغرس في يونيو، فإن أدوات الذكاء الاصطناعي التوليدي تُستخدم حالياً للمساعدة في إعداد تقارير مطلوبة قانوناً، وقد وصل استخدامها إلى 1.5 مليون موظف نشط في وزارة الدفاع.

من يبقى مسؤولاً حين يخطئ النظام؟

الوزارة الأمريكية نفسها ليست غافلة عن المخاطر على الورق في الأقل. في إعلانها الصادر عام 2023 حول الذكاء الاصطناعي المسؤول في المجال العسكري، دعت وزارة الخارجية الأمريكية إلى استخدام "مبدئي" و"خاضع للمساءلة" للذكاء الاصطناعي والأنظمة المستقلة، مع مراعاة المخاطر والفوائد والانحياز والحوادث المحتملة، وشددت على ضرورة وجود "إنسان ضمن حلقة القرار، وسلسلة قيادة وتحكم إنسانية مسؤولة".

لكن هذا المبدأ تصادم عملياً مع خلافات فعلية داخل المنظومة: في مارس، وضعت وزارة الدفاع شركة Anthropic على قائمة سوداء بعد معارضتها استخدام الأسلحة المستقلة. الشهر الماضي، قضى قاضٍ اتحادي بأن هذا الحظر يمثّل "انتقاماً غير قانوني ينتهك التعديل الأول للدستور" حكمٌ يكشف أن النقاش حول حدود استخدام الذكاء الاصطناعي في القرارات العسكرية لم يُحسم داخل الحكومة نفسها، بل تحوّل إلى نزاع قضائي مفتوح.

سياق أوسع: من هلوسة استخباراتية إلى طائرات بلا قرار إنساني

الحادثة لا يمكن فصلها عن مشهد أوسع تتزايد فيه المخاوف من الأتمتة العسكرية. طائرات هجومية مستقلة تعمل فعلاً في نزاع روسيا وأوكرانيا، وقد اختبرت شركات عسكرية مرتبطة بحلف الناتو طائرات هجومية مستقلة مماثلة. في موازاة ذلك، تكثّفت تحذيرات باحثي الذكاء الاصطناعي من مخاطر وجودية، ما دفع مختبرات ذكاء اصطناعي رائدة نفسها إلى الدعوة لتنسيق وتيرة البحث ما يُعرف بـ"ضبط الوتيرة" (Pacing) بدل التسابق الأعمى نحو القدرات الأكثر تقدماً.

السؤال الذي تتركه حادثة السفينة الصينية معلّقاً ليس تقنياً بقدر ما هو سياسي: إذا كانت الهلوسة عيباً بنيوياً في هذه النماذج، لا مجرد خلل قابل للتصحيح بتحديث برمجي، فما الذي يعنيه أن نضع هذه الأدوات في قلب قرارات قد تُطلق فيها الطائرات أو تُوجَّه إليها السفن الحربية؟ الجواب الرسمي الحالي يقول إن الإنسان سيبقى "ضمن الحلقة" لكن حادثة كادت تبدأ حرباً حقيقية تُذكّر بأن هذه الحلقة، عند لحظة الاختبار الفعلي، كانت أضعف مما تصوّره أي بيان مبادئ.