مطالب بتباطؤ تطوير الذكاء الاصطناعي لمخاطر مستقبلية

حين يطالب رئيس شركة ذكاء اصطناعي بتباطؤ تطوير الذكاء الاصطناعي، فثمّة ما يستحقّ التوقّف عنده. Dario Amodei، الرئيس التنفيذي لشركة Anthropic، نشر منشوراً في مدوّنته الشخصية بعنوان "We must pace the frontier"، يقترح فيه ثلاث استراتيجيات لتنظيم وتيرة تطوير الذكاء الاصطناعي، ويُلزم شركته بإحداها. الدافع المُعلَن: مخاوف متصاعدة من مخاطر وجودية، وتقدّم تقني يسير بسرعة تفوق قدرة أيّ آلية رقابية على مواكبته.

ثلاث استراتيجيات، وشركة واحدة تلتزم

يقترح Amodei في منشوره ثلاثة مسارات للتعامل مع هذا الوضع، لكنّه لا يكتفي بالاقتراح بل يُعلن التزام Anthropic بالمسار الأوّل من دون انتظار الآخرين.

المسار الأوّل هو السماح لمقيّمين مستقلّين من جهات خارجية بالعمل داخل الشركة بصفة دائمة؛ مقيّمون يحملون بطاقات تعريفية بشعار الشركة، ويجلسون على مكاتب مخصّصة لهم، ويستخدمون أجهزة حاسوب تابعة لها، ويتمتّعون بصلاحيات وصول مماثلة لتلك الممنوحة لفِرَق إدارة المخاطر الداخلية. يذكر Amodei منظمة METR مثالاً على هذا النوع من المقيّمين المستقلّين. ويصف هذا الالتزام بأنّه "شيء تلتزم به Anthropic من جانبها بشكل أحادي، وتدعو الحكومات إلى إلزام شركات الذكاء الاصطناعي الحدّية الأخرى بمثله."

المسار الثاني هو التنسيق بين شركات الذكاء الاصطناعي في الدول الديمقراطية لوضع معايير أمان مشتركة وحدود تحول دون التقدّم غير المقيّد. غير أنّ هذا المسار يصطدم بعقبة قانونية: قوانين مكافحة الاحتكار تجعل التنسيق بين المنافسين أمراً حسّاساً. لهذا يقترح Amodei أن تضطلع الحكومة الأمريكية بدور الوسيط أو على الأقل الممكِّن لهذه النقاشات، مشيراً إلى أنّها "لا تحتاج إلى المشاركة، لكن تحتاج إلى إصدار إعفاء محدود النطاق لأنواع معيّنة من محادثات السلامة."

أمّا المسار الثالث فيتجاوز الدول الديمقراطية إلى التنسيق العالمي، بما في ذلك التعاون مع الحكومات الاستبدادية، وفي مقدّمتها الصين، بهدف "حظر استخدامات معيّنة ضيّقة وخطرة بشكل واضح للذكاء الاصطناعي، كاستخدامه في إنتاج الأسلحة البيولوجية أو السماح للمستخدمين بذلك." في الوقت ذاته، يدعو Amodei إلى تشديد ضوابط تصدير الرقائق الإلكترونية ومعدّات أشباه الموصلات بهدف "إبطاء تقدّم الصين بما يكفي لتوسيع التقدّم الأمريكي بشكل ملحوظ خلال 3 إلى 5 سنوات."

ما الذي أشعل فتيل هذا المنشور؟

لم يصدر هذا الموقف في فراغ. يُشير Amodei إلى أنّ التقدّم المتسارع في مجال الذكاء الاصطناعي لا سيّما في بناء الجيل القادم من النماذج واقعة اختراق OpenAI وHuggingFace، هما ما دفعاه إلى المطالبة بتباطؤ واعٍ في هذه المرحلة. ويُلخّص موقفه بقوله: "يجب أن نُبطئ الوتيرة التي نُحسّن بها قدرات نماذج الذكاء الاصطناعي. سيبدو التقدّم سريعاً على أيّ حال، وعلينا أن نستثمر الوقت الذي نكسبه بحكمة."

ولم يكن Amodei وحده في التعبير عن هذه المخاوف داخل البيت الأنثروبيكي. Jacob Coxon، الباحث الذي استقال من Anthropic، أعلن أنّ دافع استقالته هو مخاوف من مخاطر وجودية يراها محتملة قبل نهاية العقد الحالي. كما أنّ Sam Altman، الرئيس التنفيذي لـ OpenAI، سبق أن طالب هو الآخر بتباطؤ تطوير الذكاء الاصطناعي.

يُقرّ Amodei بأنّه "حاول تقديم وجهة نظر متوازنة"، وأنّ ردود الفعل السلبية تجاهه تعكس "في جوهرها أزمة ثقة." ومع ذلك يؤكّد: "رغبتي في تحقيق هذه الفوائد لم تتراجع. لكنّ هذه الفوائد لن تتحقّق إلا إذا بنينا التكنولوجيا بالطريقة الصحيحة، وطالما استثمرنا الوقت الذي نكسبه جيّداً فإنّ التأنّي غير المعتاد في إنجاز هذا الأمر صحيحاً يستحقّ العناء."

شكٌّ مشروع أم التقاط مصالح؟

ليس الجميع مقتنعاً بهذا الخطاب. يرى المنتقدون أنّ التحذيرات الكارثية من الذكاء الاصطناعي تصرف الأنظار عن الأضرار الراهنة والملموسة التي يُحدثها اليوم. ومن أبرز المشكّكين الصحفي Brian Merchant، الذي يكتب في تحليله: "لم أرَ حتى الآن توثيقاً موثوقاً خطوةً بخطوة لكيفية انتقال الذكاء الاصطناعي من التحسين الذاتي المتكرّر إلى قتل كلّ إنسان على وجه الأرض."

ويذهب Merchant أبعد من ذلك في قراءته السياسية للمقترحات، إذ يرى كما يُورد في تحليل Wired أنّ "مقترحات مماثلة لمقترحات Amodei ستنتهي على الأرجح إلى خدمة Anthropic وOpenAI؛ هذا ما يبدو عليه الاستيلاء التنظيمي حين يتجسّد في الواقع." وهو توصيف يُشير إلى ظاهرة معروفة: حين تُشكّل الشركات الكبرى الأطر التنظيمية التي تُقيّدها نظرياً، لكنّها تُعزّز هيمنتها عملياً بتكاليف امتثال تعجز عنها الشركات الناشئة المنافسة. وقد تناولت صحيفة New York Times هذه المخاوف المتعلّقة بقوانين مكافحة الاحتكار في سياق نقاشات شركات الذكاء الاصطناعي.

السؤال الذي يبقى مفتوحاً: هل نحن أمام مسؤولية حقيقية يتحمّلها قطاع يُدرك خطورة ما يصنع، أم أمام مناورة ذكية تُعيد رسم خريطة المنافسة تحت غطاء السلامة؟ ما يمكن قوله بثقة هو أنّ Anthropic ستكون أمام اختبار حقيقي لالتزاماتها حين يطرق المقيّمون المستقلّون باب مختبراتها وحين يُصدر أوّل تقرير يُزعجها.