هلوسة الذكاء الاصطناعي تهدد الأمن العسكري العالمي

هل يمكن لبرنامج محادثة آلي أن يقود دولتين تملكان ترسانتين نوويتين إلى حافة نزاع مسلّح؟ الجواب، بحسب ما كشف في تقرير نشر يوم الجمعة ، هو نعم إلى حدّ أنّ طائرات عسكرية أمريكية كانت فعلاً في الجوّ هذا الربيع، جاهزة لتنفيذ عملية ضدّ سفينة صينية، قبل أن يتوقّف كل شيء في اللحظة الأخيرة.

كيف بدأت القصة من استعلامٍ بسيط على شات بوت؟

القصة تعود إلى فترة الحرب مع إيران، حين تداول عناصر قيادة العمليات الخاصة الأمريكية تقريراً استخباراتياً يزعم أنّ سفينة صينية تحمل مكوّناتٍ لبرنامج أسلحة نووية. المشكلة أنّ هذا التقرير لم يكن نتاج تحليلٍ بشري دقيق، بل نتاج محلّل واحد استخدم شات بوت مزوّداً بالذكاء الاصطناعي مرّتين: الأولى لتجميع بيانات مفتوحة المصدر مع معلومات استخباراتية إشارية سرّية في تحليلٍ واحد، والثانية لإعادة صياغة النتائج في شكل تقرير رسمي المظهر.

النتيجة؟ البرنامج أخطأ في تحديد بيان الشحنة (cargo manifest) الخاص بالسفينة، وحوّل خطأً بسيطاً إلى ملخّص يبدو موثوقاً وينتشر عبر قنوات القيادة العسكرية كأنّه حقيقة مؤكّدة. هذا هو تعريف ما يُعرف تقنياً بـ«هلوسة الذكاء الاصطناعي» (AI Hallucination): مُخرَجات خاطئة تصدر عن نماذج اللغة الكبيرة (LLMs) بثقةٍ لا تقلّ عن ثقة المعلومة الصحيحة، وهي مشكلة معروفة لدى كل من جرّب هذه النماذج، لكنها تصبح مسألة حياة أو موت حين تنتقل من سياق كتابة بريد إلكتروني إلى سياق استهداف عسكري.

الأمر الجيّد الوحيد في هذه الحادثة هو أنّ أحداً تنبّه في الوقت المناسب: العملية أُوقفت في آخر لحظة بعد أن أُعيد فحص الاستخبارات وتبيّن زيفها وربما جنّب هذا التوقف صداماً مباشراً بين الولايات المتحدة والصين.

سرعة القرار على حساب دقّته

المفارقة أنّ البنتاغون لا يرى في هذه الحادثة سبباً للتوقّف عن تبني الذكاء الاصطناعي، بل يعتبره أصلاً استراتيجياً لا يمكن التنازل عنه. الجيش الأمريكي يسرّع دمج هذه التقنيات في عملياته بهدف تقصير ما يُسمّى «سلسلة القتل» (kill chain) أي المسافة الزمنية بين رصد الهدف واتخاذ القرار بشأنه والحفاظ على تفوّقه على الصين. من منظور القيادة، كل ثانية تُقتطع من هذه السلسلة تعني قادة يستجيبون في «الوقت المناسب» بدل أن يفوّتوا الفرصة.

لكن هذه السرعة نفسها هي الثغرة: حين تُدخل نماذج اللغة الكبيرة في حلقة القرار العسكري دون رقابة بشرية كافية، فإن أي هلوسة يمكن أن تنتشر بالسرعة نفسها التي يُفترض أن تنتشر بها المعلومة الصحيحة وهذا بالضبط ما حدث هنا: تقرير خاطئ انتقل من محلّلٍ واحد إلى قنوات القيادة العليا دون أن يوقفه أحد إلا في آخر لحظة.

ما الذي يقوله الخبراء عن الحدود اللازمة؟

جيك ستيكلر، الباحث في منظمة GovAI والضابط السابق في الجيش الأمريكي، لا يدعو إلى التخلي عن الذكاء الاصطناعي في السياق العسكري، لكنه يميّز بوضوح بين استخداماته المختلفة. يقول ستيكلر: "من المهم أن يفهم أفراد الخدمة العسكرية حالة عدم اليقين المتأصّلة في نماذج اللغة الكبيرة". ويضيف: "لكن هذا أمر بالغ الأهمية بشكل خاص بالنسبة لأي قرارات قد تؤدي إلى استخدام القوة، مثل الاستهداف أو التحليل الاستخباراتي أو التخطيط العملياتي. هناك عواقب تتعلّق بالحياة والموت لهذه القرارات".

ورغم تحفّظاته، لا يرفض ستيكلر هذه الأدوات جملةً وتفصيلاً: "هذه الأدوات يمكن أن تكون مفيدة في السياقات الصحيحة ومع الضمانات المناسبة". لكنه يحذّر من أن السباق نحو التبني السريع قد يأتي بنتائج عكسية: "لكن إعطاء الأولوية لسرعة التبني على حساب كل شيء آخر سيؤدي على الأرجح إلى حوادث تجعل فقط أفراد الخدمة يفقدون الثقة في هذه الأنظمة، وهو ما سيؤدي في النهاية إلى تباطؤ عملية التبني نفسها".

هذه الملاحظة الأخيرة تلخّص المفارقة كاملةً: المؤسسات التي تستعجل دمج الذكاء الاصطناعي لتحقيق ميزة تنافسية قد تكون هي نفسها من يقوّض الثقة اللازمة لاستمرار هذا الدمج، إذا لم تضع رقابةً بشرية صارمة قبل أن تتحوّل الاستعلامات العابرة على شات بوت إلى تقارير تُحرّك طائرات حربية. الحادثة التي كُشفت هذا الأسبوع ليست خبراً عن خطأٍ تقني عابر، بل تذكيرٌ بأنّ الفارق بين "أداة مساعدة" و"مصدر قرار" يجب أن يبقى تحت إشراف إنسانٍ يقرأ التقرير قبل أن يوقّع عليه لا أن يوقّع عليه لأنّ الشات بوت صاغه بشكلٍ رسمي المظهر.