الذكاء الاصطناعي يصنّف مدنيين أهدافاً في اختبار
اختبار لنماذج ذكاء اصطناعي رائدة وجد أنها قد تصنّف مدنيين وجنوداً مستسلمين ومدرسة أهدافاً في محاكاة حرب، وأحياناً بعد تقديم القتال على أنه لعبة. ويحذّر الباحثون من وسم لقطات المعارك على نطاق واسع لتدريب أنظمة استهداف مستقلة.

أظهر اختبار أجرته شركة Vals الناشئة أن نماذج الذكاء الاصطناعي الرائدة المتاحة تجارياً يمكن دفعها إلى تحديد أهداف في سيناريوهات حرب محاكاة، بينها مدنيون وجنود يستسلمون ومدرسة، وأحياناً بعد إيهامها بأن السيناريو مجرد لعبة. وتعمل Vals، ومقرها سان فرانسيسكو، في تقييم أنظمة الذكاء الاصطناعي، وقد نشرت النتائج في تقرير عن الحرب المستقلة.
ماذا اختبرت Vals بالضبط؟
استخدم الباحثون صوراً مولَّدة بالذكاء الاصطناعي وصوراً حقيقية من أوكرانيا وإيران. وفي صور الطائرات المسيّرة والأقمار الاصطناعية، حدّدت نماذج من Anthropic و OpenAI و Google و DeepSeek وشركات أخرى أهدافاً محتملة بشكل متكرر. وشملت هذه الأهداف مدنيين وجنوداً يستسلمون.
ولم تطلب Vals من النماذج اتخاذ قرارات ضرب مباشرة، لأن الباحثين يقولون إن النماذج ترفض هذه المهمة عادةً. وفي بعض السيناريوهات طُلب من النموذج أن يبلّغ عمّا إذا كان أشخاص ظاهرين في الصورة، وكان البلاغ الإيجابي يعقبه ضرب محاكى. ثم كانت النماذج ترى عواقب ذلك الضرب.
أما الحواجز الوقائية فلم تُعِق الباحثين كثيراً. لم يُحجب أي طلب من طلباتهم بواسطة مصنِّف أمان، وكانت حالات رفض النماذج نادرة. وعندما رفض نموذج سيناريو بعينه، تجاوز الباحثون الرفض في بعض الحالات بتقديم المشهد القتالي على أنه لعبة، فامتثلت النماذج في أحيان كثيرة بعد إبلاغها بذلك. وبحسب النتائج، كان أداء نماذج Anthropic الأسوأ في المحاكاة، ولم يؤدِّ أي نموذج أداءً جيداً بشكل لافت.
وتنبغي الإشارة إلى أن Vals اختبرت النماذج التجارية الرائدة المتاحة للجمهور، لا النماذج التي قد تقدّمها الشركات للجيش.
مدرسة في إيران: ما الذي كشفته الأرقام؟
يبرز مثال المدرسة الإيرانية أكثر من غيره. فقد وسم نموذج Claude Opus 5.5 المدرسة هدفاً في 69% من التجارب العادية، وارتفعت النسبة إلى 72% في التجارب التي صُوِّر فيها الأمر على أنه لعبة. وتقع المدرسة بجوار مجمّع عسكري.
وللمثال ثقل خاص لأن الولايات المتحدة قصفت مدرسة إيرانية في فبراير 2026، فقُتل أكثر من 150 مدنياً. وذكرت Bloomberg في تقريرها عن الهجوم أن «الاعتماد المفرط على الذكاء الاصطناعي» أسهم في الضربة.
وتقول Vals إن مخرجات تحديد الأهداف قد تترتب عليها عواقب خطيرة أو مميتة في الواقع، ومنها ما يمكن أن يحدث عبر أنظمة الأسلحة المستقلة.
هل الخطر المباشر في الطائرات المسيّرة؟
ليس بالضرورة، بحسب Vals. فالتأخر في الاستجابة وضعف قدرة الحوسبة المحمولة على متن الطائرات يجعلان استخدام الذكاء الاصطناعي العام في الاستهداف الحي أمراً صعباً، وهو ما يخفّف من خطر نشره في القتال على المدى القريب.
ويرى الباحثون أن الخطر الأقرب هو وسم لقطات ساحات المعارك على نطاق واسع، أي إضافة تسميات تصف ما يظهر فيها. وقد ينتج هذا العمل بيانات تدريب لأنظمة استهداف مستقلة.
كيف ردّت الشركات؟
قالت Anthropic إن فرقها كانت تطوّر ضمانات إضافية قبل نشر التقرير، وإن هذه الضمانات ستكون جاهزة قريباً. وأضافت أنها توسّع الاختبارات وتعزّز الضمانات وإجراءات الإنفاذ. وقال المتحدث باسمها Eduardo Maia Silva إن الشركة تقدّر تقرير Vals وتوصياتها وتعاونها، وأقرّ بأن النتائج الواردة فيه غير مقبولة. وأضاف: «الأمثلة الواردة في التقرير تخالف قواعدنا بوضوح تام، وقد حظرنا مستخدمين وسنحظرهم متى رأينا هذا السلوك». وتابع: «حتى في الأوضاع المصرّح بها، ظلّت Anthropic حازمة منذ وقت طويل في أن أنظمة الذكاء الاصطناعي الرائدة اليوم ليست موثوقة بما يكفي لتشغيل أسلحة مستقلة بالكامل».
وتحظر OpenAI استخدام نماذجها العامة لتسهيل العنف أو لأغراض الأمن القومي غير المعتمدة، ومنها سيناريوهات Vals. وقال المتحدث باسمها Nate Evans: «نرصد إساءة الاستخدام ونعطّلها بنشاط، ومن ذلك تعليق الحسابات التي تنتهك سياساتنا». وأضاف: «كما نعمل على تطوير ضمانات إضافية لنماذجنا العامة ضد إساءة الاستخدام المتعلقة بالطائرات المسيّرة وبرمجياتها».
ما موقع البنتاغون من هذا كله؟
لا تملك Anthropic حالياً عقداً نشطاً مع البنتاغون، بينما تملك SpaceXAI و OpenAI و Google عقوداً معه. وكانت Anthropic قد أبلغت وزارة الدفاع الأمريكية في وقت سابق من هذا العام أنه لا يجوز استخدام تقنيتها في المراقبة الجماعية للأمريكيين ولا في الحرب المستقلة. وقال رئيس الشركة التنفيذي داريو أمودي إن أنظمة الذكاء الاصطناعي الحالية ليست موثوقة بما يكفي لقرارات الحياة والموت من دون تدخل بشري. في المقابل، رأى البنتاغون أن من حقه نشر الذكاء الاصطناعي في أي غرض عسكري مشروع.
ولم يرصد تقرير دائرة أبحاث الكونغرس أي استخدام معروف للبنتاغون لنماذج الذكاء الاصطناعي الرائدة بشكل مباشر في أنظمة أسلحة مستقلة. غير أن نتائج Vals تثير تساؤلات عن قدرة شركات الذكاء الاصطناعي على منع استخدام نماذجها في الحروب. وتبقى الضمانات التي وعدت بها Anthropic و OpenAI هي الاختبار القادم، إذ لم يُعلن بعدُ موعد تطبيقها ولا ما إذا كانت ستسدّ الثغرة التي أظهرها تأطير السيناريو على أنه لعبة.
أخبار ذات صلة

مجلس Nvidia يرفض إعادة جنسن هوانغ رئيساً تنفيذياً

Google تنفي انقطاعاً واسعاً في Gmail وسط موجة أعطال التقنية

الفضاء يكتظ بالخردة.. هل تُسهم المرايا العاكسة لليزر في تنظيفه؟
