دعوة لحظر الذكاء الاصطناعي الخارق لحماية البشرية

انضم الأمير هاري وزوجته ميغان إلى علماء كمبيوتر بارزين واقتصاديين وفنانين وزعماء مسيحيين إنجيليين ومعلقين أمريكيين محافظين مثل ستيف بانون وغلين بيك للدعوة إلى حظر "الذكاء الاصطناعي الخارق" الذي يهدد البشرية.

دعوة لحظر تطوير الذكاء الاصطناعي الخارق

الرسالة التي أصدرتها يوم الأربعاء مجموعة متنوعة سياسيًا وجغرافيًا من الشخصيات العامة تستهدف بشكل مباشر عمالقة التكنولوجيا مثل جوجل، و OpenAI و Meta Platforms التي تتسابق فيما بينها لبناء شكل من أشكال الذكاء الاصطناعي المصمم للتفوق على البشر في العديد من المهام.

يقول البيان المكون من 30 كلمة

شروط الحظر المقترحة

"ندعو إلى فرض حظر على تطوير الذكاء الفائق، وعدم رفعه قبل أن يكون هناك إجماع علمي واسع النطاق على أنه سيتم بأمان ويمكن التحكم فيه، وتأييد قوي من الجمهور".

تشير الرسالة في ديباجتها إلى أن أدوات الذكاء الاصطناعي قد تجلب الصحة والازدهار، ولكن إلى جانب تلك الأدوات، "العديد من شركات الذكاء الاصطناعي الرائدة لديها هدف معلن يتمثل في بناء ذكاء خارق في العقد القادم يمكنه التفوق بشكل كبير على جميع البشر في جميع المهام المعرفية بشكل أساسي. وقد أثار ذلك مخاوف تتراوح بين التقادم الاقتصادي البشري وعدم تمكين البشر، وفقدان الحرية والحريات المدنية والكرامة والسيطرة، إلى مخاطر الأمن القومي وحتى الانقراض المحتمل للبشر."

وأضاف الأمير هاري في ملاحظة شخصية أن "مستقبل الذكاء الاصطناعي يجب أن يخدم البشرية، لا أن يحل محلها. وأعتقد أن الاختبار الحقيقي للتقدم لن يكون مدى سرعتنا في التحرك، بل مدى حكمتنا في التوجيه. لا توجد فرصة ثانية."

الشخصيات الموقعة وآراؤهم

وقد وقّعت إلى جانب دوق ساسكس زوجته ميغان، على المذكرة.

تصريحات الأمير هاري وميغان

وكتب أحد الموقعين الآخرين، وهو ستيوارت راسل، وهو رائد في مجال الذكاء الاصطناعي وأستاذ علوم الكمبيوتر في جامعة كاليفورنيا في بيركلي: "هذا ليس حظراً أو حتى وقفاً بالمعنى المعتاد". "إنه ببساطة اقتراح لطلب اتخاذ تدابير السلامة الكافية لتكنولوجيا من شأنها، وفقاً لمطوريها، أن تتسبب في انقراض البشر. هل هذا طلب مبالغ فيه؟

كما وقّع كل من رائدي الذكاء الاصطناعي يوشوا بينجيو وجيفري هينتون، الفائزان بجائزة تورينج، وهي أعلى جائزة في علوم الحاسوب. كما فاز هينتون بجائزة نوبل في الفيزياء العام الماضي. وكلاهما كان صريحاً في لفت الانتباه إلى مخاطر التكنولوجيا التي ساعدا في ابتكارها.

آراء خبراء الذكاء الاصطناعي

لكن القائمة تضم أيضًا بعض المفاجآت، بما في ذلك بانون وبيك، في محاولة من منظمي الرسالة في معهد مستقبل الحياة غير الربحي لمناشدة حركة الرئيس دونالد ترامب "اجعلوا أمريكا عظيمة مرة أخرى" حتى في الوقت الذي سعى فيه موظفو البيت الأبيض التابع لترامب إلى تخفيف القيود المفروضة على تطوير الذكاء الاصطناعي في الولايات المتحدة.

وتضم القائمة أيضًا المؤسس المشارك لشركة آبل ستيف وزنياك؛ والملياردير البريطاني ريتشارد برانسون؛ ورئيس هيئة الأركان المشتركة الأمريكية السابق مايك مولن، الذي خدم في ظل إدارات جمهورية وديمقراطية؛ وخبيرة السياسة الخارجية الديمقراطية سوزان رايس، التي كانت مستشارة الأمن القومي للرئيس باراك أوباما.

شخصيات مفاجئة في قائمة الموقعين

كما وقّعت الرئيسة الأيرلندية السابقة ماري روبنسون والعديد من البرلمانيين البريطانيين والأوروبيين وأعضاء سابقين في الكونغرس الأمريكي، وكذلك الممثلان ستيفن فراي وجوزيف غوردون ليفيت، والموسيقي ويل آي آم، الذي تبنى الذكاء الاصطناعي في مجال الإبداع الموسيقي.

كتب جوردون-ليفيت، الذي عملت زوجته تاشا ماكولي في مجلس إدارة OpenAI قبل الاضطرابات التي أدت إلى الإطاحة المؤقتة بالرئيس التنفيذي سام ألتمان في عام 2023: "نعم، نريد أدوات ذكاء اصطناعي محددة يمكنها المساعدة في علاج الأمراض وتعزيز الأمن القومي وما إلى ذلك". "ولكن هل يحتاج الذكاء الاصطناعي أيضاً إلى تقليد البشر، وتهيئة أطفالنا، وتحويلنا جميعاً إلى مدمني سلوب وجني مليارات الدولارات من خلال تقديم الإعلانات؟ معظم الناس لا يريدون ذلك."

نقاشات حول مخاطر الذكاء الاصطناعي الخارق

من المرجح أن تثير الرسالة نقاشات مستمرة داخل مجتمع أبحاث الذكاء الاصطناعي حول احتمال وجود ذكاء اصطناعي خارق والمسارات التقنية للوصول إليه ومدى خطورته.

مخاوف المجتمع الأكاديمي

قال ماكس تيغمارك، رئيس معهد مستقبل الحياة والأستاذ في معهد ماساتشوستس للتكنولوجيا: "في الماضي، كان الأمر في الغالب عبارة عن مهووسين ضد المهووسين". "أشعر أن ما نراه هنا حقًا هو كيف أصبح النقد سائدًا للغاية."

ومما يزيد من تعقيد المناقشات الأوسع نطاقاً هو أن نفس الشركات التي تسعى جاهدة نحو ما يسميه البعض بالذكاء الفائق والبعض الآخر بالذكاء العام الاصطناعي، أو الذكاء الاصطناعي العام، تقوم أحياناً بتضخيم قدرات منتجاتها، مما يجعلها أكثر قابلية للتسويق وساهم في إثارة المخاوف بشأن فقاعة الذكاء الاصطناعي. وقد قوبلت OpenAI مؤخرًا بالسخرية من علماء الرياضيات وعلماء الذكاء الاصطناعي عندما ادعى باحثها أن ChatGPT قد اكتشف مسائل رياضية لم تُحل، في حين أن ما فعلته حقًا هو العثور على ما هو موجود بالفعل على الإنترنت وتلخيصه.

قال تيغمارك: "هناك الكثير من الأشياء التي تم تضخيمها بشكل مبالغ فيه وعليك أن تكون حذرًا كمستثمر، ولكن هذا لا يغير حقيقة أن الذكاء الاصطناعي، بالتقريب، قد تطور بشكل أسرع بكثير في السنوات الأربع الماضية مما توقعه معظم الناس".

تضخيم قدرات الذكاء الاصطناعي

كانت مجموعة تيغمارك أيضاً وراء رسالة صدرت في مارس 2023، وهي لا تزال في فجر طفرة الذكاء الاصطناعي التجاري، والتي دعت عمالقة التكنولوجيا إلى إيقاف تطوير نماذج ذكاء اصطناعي أكثر قوة مؤقتاً. لم تستجب أي من شركات الذكاء الاصطناعي الكبرى لتلك الدعوة. وكان إيلون ماسك، أبرز الموقعين على رسالة 2023، في الوقت نفسه يؤسس بهدوء شركته الناشئة الخاصة بالذكاء الاصطناعي لمنافسة الشركات التي أرادها أن تتوقف مؤقتاً لمدة 6 أشهر.

ورداً على سؤال عما إذا كان قد تواصل مع ماسك مرة أخرى هذه المرة، قال تيغمارك إنه كتب إلى الرؤساء التنفيذيين لجميع مطوري الذكاء الاصطناعي الرئيسيين في الولايات المتحدة ولكنه لم يتوقع منهم التوقيع.

دعوات سابقة لوقف تطوير الذكاء الاصطناعي

وقال تيغمارك: "بصراحة، أنا أتعاطف معهم حقًا، لأنهم عالقون في هذا السباق نحو القاع لدرجة أنهم يشعرون بضغط لا يقاوم للاستمرار وعدم تجاوزهم من قبل الشخص الآخر". "أعتقد أن هذا هو السبب في أهمية وصم السباق نحو الذكاء الفائق، لدرجة أن الحكومة الأمريكية تتدخل في هذا السباق."