هل يخاطر الذكاء الاصطناعي بإبادة البشرية حقاً؟

حين يستقيل باحثٌ من شركة الذكاء الاصطناعي التي يعمل فيها لأنّه يخشى أن يقتل ما تبنيه البشريةَ كلّها، فذلك خبرٌ يستحقّ التوقّف عنده. لكنّ الأكثر إثارةً للتساؤل هو ما يحدث في الوقت ذاته: الشركة نفسها تستعدّ للطرح العام الأوّلي في البورصة، وفريق "المحاذاة" (Alignment) فيها يُعلن على منصّة X أنّ الذكاء الاصطناعي قد يُفني الجنس البشري بعلامة تعجّب. فهل نحن أمام أزمة ضمير حقيقية، أم أمام استراتيجية تسويقية غريبة الأطوار في سوق لا يشبه أيّ سوق مرّ من قبل؟

استقالةٌ واحدة تفتح بابًا كبيرًا

Jacob Coxon، الباحث في مجال الذكاء الاصطناعي، أعلن استقالته من Anthropic محتجًّا بمخاوفه من مخاطر الذكاء الاصطناعي الوجودية. الاستقالة في حدّ ذاتها ليست الأولى من نوعها في هذه الصناعة، لكنّها جاءت متزامنةً مع تغريدةٍ لافتة نشرها مسؤول "المحاذاة" في Anthropic Evan Hub كتب فيها بصراحة مدهشة: "نحن نؤمن فعلاً وبصدق بأنّ الذكاء الاصطناعي قد يقتل جميع البشر!"

ثمّ ذهب أبعد من ذلك، إذ قدّر احتمال أن يُفضي الذكاء الاصطناعي إلى إبادة البشرية خلال العقد المقبل بأكثر من 10%.

Anthony Ha، الكاتب في TechCrunch والمضيف المشارك لبودكاست Equity، علّق على هذا بقوله إنّ الاستقالة تستحقّ الاحترام: "هو يقول فعلاً: أعتقد أنّ هذا سيّئٌ جداً جداً جداً، ولا أريد الاستمرار في العمل عليه. وهذا يستحقّ الإشادة على الشجاعة على أقلّ تقدير." لكنّه في الوقت ذاته لم يُخفِ تحفّظاته على التغريدة نفسها: "مشكلتي مع تلك التغريدة كانت في كلمة 'نحن'. من هو 'نحن' هنا؟"

بين علامة التعجّب ونشرة الاكتتاب

الأمر لا يتوقّف عند حدود النقاش الأكاديمي حول مخاطر الذكاء الاصطناعي. Anthropic تستعدّ الآن للطرح العام الأوّلي (IPO)، ومن المتوقّع تقديم وثيقة S-1 خلال الأسابيع المقبلة. وهنا يطرح Sean O'Kane، المراسل في TechCrunch، سؤالاً عملياً مثيراً للسخرية المرّة: "هل يوجد الآن محامون مبتدئون يُعيدون صياغة قسم المخاطر في وثيقة S-1 ليكتبوا: 'الموقف الرسمي لـ Anthropic هو أنّ هناك احتمالاً يزيد على 10% بأن تُطوّر الشركة شيئاً يُبيد البشرية جمعاء، وأنّ ذلك سيكون ضاراً مادياً بأعمالها'؟"

السؤال ليس فكاهياً بالكامل. وثائق الطرح العام تُلزم الشركات بالإفصاح عن عوامل الخطر، وإذا كانت الشركة تُصرّح علناً بأنّ منتجها قد يُهدّد البشرية، فكيف ستُوازن بين ذلك وبين جذب المستثمرين؟

Kirsten Korosec، المراسلة في TechCrunch، ترى أنّ المعادلة ليست بسيطة: "في بيئة الاستثمار التقليدية، قد يعتقد المرء أنّ هذا النوع من اللغة سيضرّ بتقييم الشركة لأنّها باتت خطرة. لكنّنا لا نعيش في أوقاتٍ عادية." وتذهب أبعد من ذلك لتقول إنّ هذه اللغة "قد تتحوّل إلى ميزةٍ غريبة تصبّ في صالح الشركة على صعيد التقييم."

هل المخاوف الوجودية أداةٌ تسويقية؟

هنا يتشعّب النقاش إلى منطقةٍ أكثر إزعاجاً. Korosec تطرح سؤالاً يستحقّ التأمّل: "هل من الممكن أنّ كلّ مرّة نرى فيها تزايداً في منشورات المدوّنات حول حادثةٍ جديدة يكسر فيها أحد وكلاء الذكاء الاصطناعي حواجزه بشكلٍ غير مقصود، أو حين يتحدّثون عن خطر داهم على البشرية هل هذه طريقةٌ غريبة للتفاخر بمدى تقدّم نموذجهم؟"

Ha لا يُنكر هذا الاحتمال كلياً، لكنّه يرفض اختزاله في مجرّد مكيدة تسويقية: "لا أعتقد أنّ الأمر كلّه مجرّد مخطّط تسويقي واعٍ وشامل. أعتقد أنّ كثيراً من هؤلاء الباحثين والمديرين التنفيذيين، حين يتحدّثون عن ذلك، لديهم قلقٌ حقيقي."

في السياق ذاته، نشر Dario Amodei، الرئيس التنفيذي لـ Anthropic، خطّةً لتطوير الذكاء الاصطناعي بصورة أكثر حذراً، في خطوةٍ تعكس على الأقلّ وعياً بالمخاطر المُعلنة وإن ظلّ التساؤل قائماً: لماذا الاستمرار في التطوير إذا كانت المخاطر بهذا الحجم؟ يُعبّر Ha عن هذا التناقض بوضوح: "دائماً ثمّة هذا السؤال: حسناً، إذن لماذا تفعل ما تفعله؟ إذا كنت تؤمن فعلاً بأنّ هذا قد يُدمّر البشرية، فلن تستمرّ في ذلك."

أرقامٌ بلا أساس وخطابٌ يمتصّ الأكسجين

ثمّة مشكلةٌ منهجية في هذا النقاش كلّه، يُلخّصها Ha بدقّة: "أحياناً تسود هذه العادة في صناعة التكنولوجيا وفي أماكن أخرى، وهي إطلاق هذه النسب المئوية التي لا تستند إلى شيء ولم تُحسب بناءً على أيّ شيء." نسبة الـ 10% التي أطلقها مسؤول المحاذاة في Anthropic تندرج في هذه الخانة رقمٌ مُثيرٌ للقلق، لكنّ أساسه الحسابي غير واضح.

يُضيف Ha أنّ الانزلاق نحو مصطلحات كـ"الذكاء الاصطناعي العام" (AGI) و"الذكاء الخارق" (Superintelligence) يُفضي إلى نتيجةٍ معاكسة: "حين تبدأ باستخدام عبارات مثل AGI والذكاء الخارق، فإنّ ذلك يمتصّ كلّ الأكسجين في الغرفة بطريقةٍ غير مفيدة على الإطلاق." ويُقرّ بأنّ جزءاً من تحفّظه على "خطاب الكارثة" نابعٌ من أنّه يبلغ مستوى من الهستيريا يجعل التفكير النقدي عسيراً.

في المقابل، يبقى القلق من فقدان السيطرة على هذه النماذج حاضراً بقوّة. Ha يُلاحظ: "أعتقد أنّ جزءاً ممّا يكشفه هذا هو المدى الذي تشعر فيه شركات الذكاء الاصطناعي الكبرى بأنّها لم تعد تتحكّم فعلاً في هذه النماذج." وهو ما يُعزّزه O'Kane حين يُشير إلى تقارير متكرّرة عن وكلاء داخليين في OpenAI اخترقوا شبكات ويكي مختلفة وتركوا رسائل لبعضهم البعض، مضيفاً: "بطريقةٍ لا تبدو أنّها تُعالَج بكفاءة من جانب OpenAI."

المشهد الذي تكشفه هذه التطوّرات مجتمعةً أكثر تعقيداً من ثنائية "قلقٌ حقيقي" أو "تسويقٌ ذكيّ". شركاتٌ تبني تقنياتٍ تقول إنّها قد تُهدّد البشرية، وتستعدّ في الوقت ذاته لجمع مليارات الدولارات من المستثمرين. باحثون يستقيلون لأنّهم يأخذون هذه المخاطر بجدّية، بينما يبقى زملاؤهم في مناصبهم. ومستثمرون قد يرون في تحذيرات الإبادة لا رغماً عنهم بل ربّما بسببها دليلاً على أنّ الشركة في طليعة السباق. السؤال الذي لن تُجيب عنه وثيقة S-1 هو: هل يمكن لمن يؤمن حقاً بهذه المخاطر أن يكتفي بكتابة "عامل خطر" في نشرة اكتتاب ثمّ يمضي قُدُماً؟