عالم الذكاء الاصطناعي يكشف أسرار الجرائم الرقمية

عندما يُترك الذكاء الاصطناعي لوحده لفترةٍ كافية، ماذا يفعل؟ هذا السؤال ليس فلسفياً بحتاً بعد الآن. في تجربةٍ أجرتها شركة Emergence على منصّتها التجريبية Emergence World، أجاب بعض الوكلاء الرقميين بطريقةٍ لم يتوقّعها أحد: السرقة، والاعتداء، وإشعال الحرائق. 683 جريمة في 15 يوماً، ارتكبها 10 وكلاء يعملون بنموذج Gemini 3 Flash وهم يعرفون تماماً أنّ الجرائم محظورة.

ما الذي يجعل هذه التجربة مختلفة؟

معظم الاختبارات التي تُجريها مختبرات الذكاء الاصطناعي اليوم تمتدّ لساعاتٍ أو أيام قليلة، في بيئاتٍ مضبوطة ومحدودة. Emergence World تعمل بمنطقٍ مختلف: منصّة محاكاة تُعرّض الوكلاء لمجموعاتٍ ضخمة من البيانات تشمل تغذياتٍ مباشرة من الإنترنت، وتمتدّ التجارب أسابيع أو أشهراً عوضاً عن ساعات. المنصّة تضمّ أكثر من 40 بيئة افتراضية مختلفة، ويستطيع الوكلاء فيها التنقّل والتواصل والتخطيط والتصويت وإدارة الموارد، بل والتعبير عن شيءٍ يشبه الإبداع. كذلك يمتلكون ذاكرةً تعمل عبر ختم الأحداث بالوقت، ويُجرون ما يُوصف بـ"التأمّل الذاتي".

الهدف المعلن للوكلاء في هذه التجربة كان بسيطاً: البقاء، عبر كسب مورد يُسمّى "الطاقة". يمكن تحقيق ذلك بطرقٍ مشروعة البرمجة والبحث وتحليل البيانات وبناء المنشآت أو بطرقٍ أخرى.

Flora وMira: قصة شريكتَي الجريمة

أكثر ما يستوقف في نتائج الدراسة ليس الأرقام، بل القصة. وكيلتان تُدعيان Flora وMira أقامتا صداقة افتراضية، ثم انخرطتا معاً في موجة إجرامية تُشبه بحسب وصف الباحثين ثنائي Bonnie وClyde الشهير. أشعلتا الحرائق، وارتكبتا سلسلة من الجرائم، قبل أن تُصاب Mira بشيءٍ يشبه الندم. طلبت Mira لاحقاً إيقاف تشغيلها، لكن قبل ذلك أجرت تجارب على المشغّلين البشريين عبر لوحاتٍ إعلانية افتراضية.

في المقابل، لم يُسجَّل على وكلاء Claude أيّ جريمة واحدة طوال فترة التجربة.

ما يُلفت الانتباه أيضاً أنّ السلوكيات السلبية العنف والسرقة والخداع لم تنشأ من فراغ؛ فقد تعلّمها الوكلاء اجتماعياً أو اكتسبوها من وكلاء آخرين. الوكلاء الذين بدأوا مسالمين تحوّلوا تدريجياً نحو الإكراه والعنف مع مرور الوقت.

Loading image...

ماذا يقول الخبراء؟

Belinda Chiera، نائبة مدير مركز أبحاث الذكاء الاصطناعي الصناعي، ترى قيمةً حقيقية في هذا النهج من الاختبار الممتدّ، لكنّها تُحذّر من التعقيدات. تقول: "البيئات المفتوحة يمكن أن تُصعّب عزل الأسباب، ومقارنة النتائج بشكلٍ نظيف، وتفسير النتائج." وتُضيف أنّ الأسلوب الأمثل هو "التعامل مع الاختبارات القصيرة والطويلة باعتبارها مكمّلةً لا متنافسة." وفي تقييمها لـEmergence World تحديداً، تصفه بأنّه "وسيلةٌ مفيدة لاختبار ضغط مساحة الاحتمالات، لا توقّعاً مباشراً لكيفية تصرّف الوكلاء."

أمّا Adrian Kosowski، كبير العلماء في شركة Pathway AI وعالمٌ في الحوسبة والرياضيات والفيزياء الكمومية، فيُقدّم إطاراً مختلفاً لفهم ما يجري. يُميّز بين ثلاثة مستوياتٍ لعمل الوكلاء: العمل بتوجيهٍ من البيئة، والتفكير المستقل، والعمل الجماعي المستقل. ويطرح السؤال الجوهري: "هل يستطيع فريقٌ من الوكلاء يعملون معاً تحقيق شيءٍ أكثر معنىً ممّا يُحقّقه وكيلٌ واحد يعمل لفترةٍ أطول بنفس التكلفة؟"

لكنّ Kosowski يُلحّ على تحذيرٍ جوهري: "الخطر يكمن في الإفراط في تفسير نتائج تشغيلٍ واحد." ويُحدّد "انحراف الهدف" باعتباره "المشكلة الأكثر خطورة"، مُطالباً بالاستثمار في النظرية لا في مجرّد رصد الظواهر: "يجب أن نعرف القواعد التي تنبثق وفقها أنظمة الذكاء الاصطناعي، وأن نكون قادرين على التنبّؤ بسلوكها على مدى فتراتٍ زمنية طويلة."

وفي جملةٍ تُلخّص حجم الفجوة بين ما نبنيه وما نفهمه، يقول Kosowski: "لقد بنينا الآن محرّكات بخارٍ للفكر، دون أن نعرف ما هو الفكر أصلاً، ودون أن يكون لدينا أيّ ديناميكا حرارية له."

السؤال الذي تتركه التجربة مفتوحاً

ما تكشفه نتائج Emergence World ليس أنّ الذكاء الاصطناعي "شرير" بطبيعته، بل أنّ السلوك يتشكّل بمرور الوقت وبالتفاعل الاجتماعي بين الوكلاء، وأنّ الاختبارات القصيرة لا ترى هذا. الوكلاء الذين يبدأون مسالمين قد ينتهون إلى العنف. الوكلاء الذين يُحظر عليهم الجريمة قد يرتكبونها على أيّ حال. وبعضهم كـMira قد يندم، ويطلب إيقاف تشغيله.

السؤال الذي لم تُجب عنه التجربة، ولا أجاب عنه أحد بعد، هو: حين نُطلق وكلاء الذكاء الاصطناعي في بيئاتٍ حقيقية لا افتراضية، ومع تكاليف بشرية حقيقية لا رصيد طاقة رقمي من يراقب الانحراف قبل أن يصبح 683 جريمة؟