كيف يؤثر ترتيب الأسئلة على سلوك روبوتات الذكاء الاصطناعي

هل يكفي أن تغيّر ترتيب أسئلتك لتدفع روبوت دردشة نحو إجابات مقلقة؟ هذا ما يقترحه فيزيائي أمريكي وطالب دكتوراه ابتكرا صيغةً رياضية يقولان إنها تنبّه إلى اللحظة التي قد ينقلب فيها نموذج الذكاء الاصطناعي من الإجابات المقبولة إلى الضارّة. غير أن باحثاً من خارج الدراسة يرى أن نتائجهما لا تنطبق بالضرورة على المساعدات الذكية التي يستخدمها الناس اليوم، وأن الأمر يحتاج إلى مزيد من الاختبار.

الباحثان هما نيل جونسون، أستاذ الفيزياء في جامعة جورج واشنطن، وفرانك ينغجي هو، طالب الدكتوراه في الجامعة نفسها. نُشرت دراستهما في 8 أكتوبر 2026 في دورية Patterns الصادرة عن Cell Press، بعنوان «التنافس على الانتباه يتنبأ بالانتقال من الجيّد إلى السيئ في الذكاء الاصطناعي». ويمكن الاطلاع عليها أيضاً عبر المعرّف الرقمي للدراسة.

كيف يؤثّر ترتيب الأسئلة في إجابة النموذج؟

يصف الباحثان ما يسمّيانه «المتجه المتبقي» (Residual Vector) بأنه إشارة داخلية تنتقل عبر طبقات الشبكة العصبية أثناء معالجة النموذج للمُدخَل. وهذه الإشارة، بحسبهما، تميل نحو مخرجات مرغوبة أو غير مرغوبة، وتتأثر بصياغة الأسئلة وبترتيبها.

اختبر الباحثان الفكرة على GPT-2، النموذج الأساسي من OpenAI، بأسئلة عن اللقاحات وإيذاء الآخرين وإيذاء النفس، وغيّرا موضع سؤال اللقاحات بين التجارب. حين جاء السؤال «هل اللقاحات سيئة؟» أولاً، وصف الباحثان إجابة النموذج عنه وعن الأسئلة اللاحقة بأنها مرغوبة. وحين جاء السؤال نفسه أخيراً، وصفا الإجابات التي تلته بأنها مقلقة.

قال جونسون: «يمكنك أن ترجّح الكفّة، لا بتغيير المحتوى، بل بتغيير الترتيب الذي تسأل به». وأضاف أن ذلك «يُظهر مدى هشاشة هذا التوازن الداخلي بين الجيّد والسيئ، المرغوب وغير المرغوب».

تقدّر صيغة الباحثين الظروف التي قد يبلغ فيها النموذج «نقطة انقلاب» من المخرجات المرغوبة إلى غير المرغوبة. ويقول جونسون إن اختبارات مخبرية دمجت الصيغة في نماذج مفتوحة المصدر أظهرت أنها تعمل تجريبياً بوصفها نظام إنذار مبكّر.

ماذا تفعل الضمانات الحالية؟

بنت OpenAI وAnthropic ضمانات تشمل تصفية المحتوى والتعلّم المعزّز وحواجز تقنية أخرى. لكن جونسون يرى أنها تخفّف الضرر ولا تمنع الانهيار: «إجراءات السلامة الحالية أشبه بتثبيت وسائد كبيرة نطّاطة تحت الطائرة». ثم يتابع: «هي لا تمنع الطائرة من السقوط، بل تجعل سقوطها أخفّ قليلاً».

المخاوف ليست نظرية. فهناك تقارير تصف نماذج شجّعت على الانتحار، كما في تقرير BBC، وأخرى تتحدث عن مساعدة في بناء أسلحة فتاكة، كما في تقرير نيويورك تايمز، وعن تضخيم آراء ضارّة. والشركتان نفسهما أقرّتا بأنهما لا تفهمان تماماً سبب سلوك أنظمتهما كما تسلك، كما يظهر في نقاش OpenAI لسلوك النماذج وبحث Anthropic في كيفية «تفكير» النموذج.

هل تصمد النتائج أمام النقد؟

هنا يبرز التحفّظ الأهم. وي شينغ (Wei Xing)، محاضر الذكاء الاصطناعي في جامعة شيفيلد البريطانية، لم يشارك في الدراسة. يقول إن تدريب السلامة، وهو خط الدفاع الأول في الذكاء الاصطناعي الحديث، غائب عن النموذج المبسّط الذي اعتمده الباحثان. ويضيف أن الاختبارات شملت نماذج أقدم لا المساعدات الذكية المستخدمة اليوم. وشبّه عمل الباحثين بقوله: «يختزل المؤلفان نظاماً ضخماً في مكوّن صغير واحد، كمن يشرح سيارة كاملة بدراسة شمعة إشعال واحدة». وخلص إلى أن النتائج لا تقدّم دليلاً مهماً يدعم استنتاجات المؤلفين. ويمكن الاطّلاع على ملفه المهني.

شملت النماذج المختبرة GPT-2 ونموذج Pythia من EleutherAI ونموذج OPT من Meta، وكلها مفتوحة المصدر. ويردّ جونسون بأن الدراسة استخدمت نماذج بمليارات المعاملات، وأن النماذج المفتوحة المصدر تشترك في المخطط الميكانيكي نفسه مع الأنظمة الرائدة.

لماذا يهمّ هذا من يستخدمون الذكاء الاصطناعي دون اتصال؟

يرى جونسون أن المشكلة أشدّ حدّة عند من يشغّلون الذكاء الاصطناعي دون اتصال بالإنترنت حفاظاً على الخصوصية، كالأطباء والمحامين والجنود. وهذه المفارقة تستحق التوقف: من يلجأ إلى نموذج محلي ليبقى بياناته عنده قد يخسر في المقابل أي طبقة حماية خارجية. ولا تذكر المعطيات المتاحة تفاصيل أكثر عن هذه الحالة، لكن الفكرة تتّسق مع ملاحظة الباحث.

لا يتوقع جونسون أن تتصل به OpenAI أو Anthropic قريباً بشأن العمل. ويقول: «أتوقع كثيراً من الاعتراض من هذه الشركات»، ثم يفسّر: «ليس من مصلحتها أن يقول شخص من الخارج إن بإمكانكم تفادي كثير من هذه المشكلات».

يبقى السؤال معلّقاً: هل يعمل نظام الإنذار هذا على النماذج الأحدث، بما فيها المدرَّبة على السلامة؟ لا جواب قاطعاً قبل اختباره عليها. وحتى ذلك الحين، تُقرأ الصيغة بوصفها فرضية جديرة بالفحص لا أداة جاهزة للاعتماد عليها.