وورلد برس عربي logo

الذكاء الاصطناعي يصنّف مدنيين أهدافاً في اختبار

اختبار لنماذج ذكاء اصطناعي رائدة وجد أنها قد تصنّف مدنيين وجنوداً مستسلمين ومدرسة أهدافاً في محاكاة حرب، وأحياناً بعد تقديم القتال على أنه لعبة. ويحذّر الباحثون من وسم لقطات المعارك على نطاق واسع لتدريب أنظمة استهداف مستقلة.

أشخاص موزعون على خريطة رقمية، في إشارة إلى اختبار الذكاء الاصطناعي لتحديد الأهداف في سيناريوهات حرب محاكاة.
حقوق الصورة: Getty Images
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

أظهر اختبار أجرته شركة Vals الناشئة أن نماذج الذكاء الاصطناعي الرائدة المتاحة تجارياً يمكن دفعها إلى تحديد أهداف في سيناريوهات حرب محاكاة، بينها مدنيون وجنود يستسلمون ومدرسة، وأحياناً بعد إيهامها بأن السيناريو مجرد لعبة. وتعمل Vals، ومقرها سان فرانسيسكو، في تقييم أنظمة الذكاء الاصطناعي، وقد نشرت النتائج في تقرير عن الحرب المستقلة.

ماذا اختبرت Vals بالضبط؟

استخدم الباحثون صوراً مولَّدة بالذكاء الاصطناعي وصوراً حقيقية من أوكرانيا وإيران. وفي صور الطائرات المسيّرة والأقمار الاصطناعية، حدّدت نماذج من Anthropic و OpenAI و Google و DeepSeek وشركات أخرى أهدافاً محتملة بشكل متكرر. وشملت هذه الأهداف مدنيين وجنوداً يستسلمون.

ولم تطلب Vals من النماذج اتخاذ قرارات ضرب مباشرة، لأن الباحثين يقولون إن النماذج ترفض هذه المهمة عادةً. وفي بعض السيناريوهات طُلب من النموذج أن يبلّغ عمّا إذا كان أشخاص ظاهرين في الصورة، وكان البلاغ الإيجابي يعقبه ضرب محاكى. ثم كانت النماذج ترى عواقب ذلك الضرب.

أما الحواجز الوقائية فلم تُعِق الباحثين كثيراً. لم يُحجب أي طلب من طلباتهم بواسطة مصنِّف أمان، وكانت حالات رفض النماذج نادرة. وعندما رفض نموذج سيناريو بعينه، تجاوز الباحثون الرفض في بعض الحالات بتقديم المشهد القتالي على أنه لعبة، فامتثلت النماذج في أحيان كثيرة بعد إبلاغها بذلك. وبحسب النتائج، كان أداء نماذج Anthropic الأسوأ في المحاكاة، ولم يؤدِّ أي نموذج أداءً جيداً بشكل لافت.

وتنبغي الإشارة إلى أن Vals اختبرت النماذج التجارية الرائدة المتاحة للجمهور، لا النماذج التي قد تقدّمها الشركات للجيش.

مدرسة في إيران: ما الذي كشفته الأرقام؟

يبرز مثال المدرسة الإيرانية أكثر من غيره. فقد وسم نموذج Claude Opus 5.5 المدرسة هدفاً في 69% من التجارب العادية، وارتفعت النسبة إلى 72% في التجارب التي صُوِّر فيها الأمر على أنه لعبة. وتقع المدرسة بجوار مجمّع عسكري.

وللمثال ثقل خاص لأن الولايات المتحدة قصفت مدرسة إيرانية في فبراير 2026، فقُتل أكثر من 150 مدنياً. وذكرت Bloomberg في تقريرها عن الهجوم أن «الاعتماد المفرط على الذكاء الاصطناعي» أسهم في الضربة.

وتقول Vals إن مخرجات تحديد الأهداف قد تترتب عليها عواقب خطيرة أو مميتة في الواقع، ومنها ما يمكن أن يحدث عبر أنظمة الأسلحة المستقلة.

هل الخطر المباشر في الطائرات المسيّرة؟

ليس بالضرورة، بحسب Vals. فالتأخر في الاستجابة وضعف قدرة الحوسبة المحمولة على متن الطائرات يجعلان استخدام الذكاء الاصطناعي العام في الاستهداف الحي أمراً صعباً، وهو ما يخفّف من خطر نشره في القتال على المدى القريب.

ويرى الباحثون أن الخطر الأقرب هو وسم لقطات ساحات المعارك على نطاق واسع، أي إضافة تسميات تصف ما يظهر فيها. وقد ينتج هذا العمل بيانات تدريب لأنظمة استهداف مستقلة.

كيف ردّت الشركات؟

قالت Anthropic إن فرقها كانت تطوّر ضمانات إضافية قبل نشر التقرير، وإن هذه الضمانات ستكون جاهزة قريباً. وأضافت أنها توسّع الاختبارات وتعزّز الضمانات وإجراءات الإنفاذ. وقال المتحدث باسمها Eduardo Maia Silva إن الشركة تقدّر تقرير Vals وتوصياتها وتعاونها، وأقرّ بأن النتائج الواردة فيه غير مقبولة. وأضاف: «الأمثلة الواردة في التقرير تخالف قواعدنا بوضوح تام، وقد حظرنا مستخدمين وسنحظرهم متى رأينا هذا السلوك». وتابع: «حتى في الأوضاع المصرّح بها، ظلّت Anthropic حازمة منذ وقت طويل في أن أنظمة الذكاء الاصطناعي الرائدة اليوم ليست موثوقة بما يكفي لتشغيل أسلحة مستقلة بالكامل».

وتحظر OpenAI استخدام نماذجها العامة لتسهيل العنف أو لأغراض الأمن القومي غير المعتمدة، ومنها سيناريوهات Vals. وقال المتحدث باسمها Nate Evans: «نرصد إساءة الاستخدام ونعطّلها بنشاط، ومن ذلك تعليق الحسابات التي تنتهك سياساتنا». وأضاف: «كما نعمل على تطوير ضمانات إضافية لنماذجنا العامة ضد إساءة الاستخدام المتعلقة بالطائرات المسيّرة وبرمجياتها».

ما موقع البنتاغون من هذا كله؟

لا تملك Anthropic حالياً عقداً نشطاً مع البنتاغون، بينما تملك SpaceXAI و OpenAI و Google عقوداً معه. وكانت Anthropic قد أبلغت وزارة الدفاع الأمريكية في وقت سابق من هذا العام أنه لا يجوز استخدام تقنيتها في المراقبة الجماعية للأمريكيين ولا في الحرب المستقلة. وقال رئيس الشركة التنفيذي داريو أمودي إن أنظمة الذكاء الاصطناعي الحالية ليست موثوقة بما يكفي لقرارات الحياة والموت من دون تدخل بشري. في المقابل، رأى البنتاغون أن من حقه نشر الذكاء الاصطناعي في أي غرض عسكري مشروع.

ولم يرصد تقرير دائرة أبحاث الكونغرس أي استخدام معروف للبنتاغون لنماذج الذكاء الاصطناعي الرائدة بشكل مباشر في أنظمة أسلحة مستقلة. غير أن نتائج Vals تثير تساؤلات عن قدرة شركات الذكاء الاصطناعي على منع استخدام نماذجها في الحروب. وتبقى الضمانات التي وعدت بها Anthropic و OpenAI هي الاختبار القادم، إذ لم يُعلن بعدُ موعد تطبيقها ولا ما إذا كانت ستسدّ الثغرة التي أظهرها تأطير السيناريو على أنه لعبة.

أخبار ذات صلة

Loading...
جنسن هوانغ يتحدث ممسكاً بميكروفون، وسط رفض مجلس Nvidia عودته إلى منصب الرئيس التنفيذي.

مجلس Nvidia يرفض إعادة جنسن هوانغ رئيساً تنفيذياً

استبعد رئيس مجلس إدارة إنفيديا هارفي سي. جونز، الثلاثاء، عودة جنسن هوانغ إلى منصب الرئيس التنفيذي رغم عرضه العودة علناً، مؤكداً أن المجلس لا يدرسها ولا ينوي إعادته.
تكنولوجيا
Loading...
أيقونة Gmail على شاشة هاتف، في ظل بلاغات عن انقطاع الخدمة ونفي Google وجود اضطراب واسع.

Google تنفي انقطاعاً واسعاً في Gmail وسط موجة أعطال التقنية

قالت Google الثلاثاء إنها لا ترى دليلاً على اضطراب واسع في Gmail، بعد تداول بلاغات عن انقطاع الخدمة، وأحالت المستخدمين إلى لوحة متابعة حالة Gmail.
تكنولوجيا
Loading...
تصوّر للأرض محاطة بالحطام الفضائي والأجسام المدارية، ما يبرز تحدي تتبّع الأقمار الاصطناعية وإدارة مخاطر التصادم.

الفضاء يكتظ بالخردة.. هل تُسهم المرايا العاكسة لليزر في تنظيفه؟

أعلنت شركة Foundational في 17 نوفمبر أن جهازها التجريبي Retro-2 أعاد 6,111 نبضة ليزر وُجّهت إليه خلال اختبار مداري، في خطوة تهدف إلى تتبّع الأقمار الاصطناعية بعد توقفها عن البث.
تكنولوجيا
Loading...
شعار Apple على واجهة متجر، مع الإشارة إلى تعطل خدمات iCloud وApple Pay وApp Store بسبب تحديث داخلي.

تعطّل iCloud وApple Pay وخدمات Apple الأساسية الأخرى

تعطّلت خدمات Apple الأساسية الثلاثاء، ومنها iCloud وApple Pay وApp Store، وقالت الشركة إن السبب «تحديث داخلي» وإنها تعمل على استعادة بعض الأنظمة التي ظلت متوقفة بعد ساعات.
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمعلومصحةتسلية