دعوة لحظر الذكاء الاصطناعي الخارق لحماية البشرية

انضم الأمير هاري وزوجته ميغان إلى علماء كمبيوتر بارزين واقتصاديين وفنانين وزعماء مسيحيين إنجيليين ومعلقين أمريكيين محافظين مثل ستيف بانون وغلين بيك للدعوة إلى حظر "الذكاء الاصطناعي الخارق" الذي يهدد البشرية.

دعوة لحظر تطوير الذكاء الاصطناعي الخارق

الرسالة التي أصدرتها يوم الأربعاء مجموعة متنوعة سياسيًا وجغرافيًا من الشخصيات العامة تستهدف بشكل مباشر عمالقة التكنولوجيا مثل جوجل، و OpenAI و Meta Platforms التي تتسابق فيما بينها لبناء شكل من أشكال الذكاء الاصطناعي المصمم للتفوق على البشر في العديد من المهام.

يقول البيان المكون من 30 كلمة

شروط الحظر المقترحة

"ندعو إلى فرض حظر على تطوير الذكاء الفائق، وعدم رفعه قبل أن يكون هناك إجماع علمي واسع النطاق على أنه سيتم بأمان ويمكن التحكم فيه، وتأييد قوي من الجمهور".

تشير الرسالة في ديباجتها إلى أن أدوات الذكاء الاصطناعي قد تجلب الصحة والازدهار، ولكن إلى جانب تلك الأدوات، "العديد من شركات الذكاء الاصطناعي الرائدة لديها هدف معلن يتمثل في بناء ذكاء خارق في العقد القادم يمكنه التفوق بشكل كبير على جميع البشر في جميع المهام المعرفية بشكل أساسي. وقد أثار ذلك مخاوف تتراوح بين التقادم الاقتصادي البشري وعدم تمكين البشر، وفقدان الحرية والحريات المدنية والكرامة والسيطرة، إلى مخاطر الأمن القومي وحتى الانقراض المحتمل للبشر."

الشخصيات الموقعة وآراؤهم

وأضاف الأمير هاري في ملاحظة شخصية أن "مستقبل الذكاء الاصطناعي يجب أن يخدم البشرية، لا أن يحل محلها. وأعتقد أن الاختبار الحقيقي للتقدم لن يكون مدى سرعتنا في التحرك، بل مدى حكمتنا في التوجيه. لا توجد فرصة ثانية."

تصريحات الأمير هاري وميغان

وقد وقّعت إلى جانب دوق ساسكس زوجته ميغان، على المذكرة.

وكتب أحد الموقعين الآخرين، وهو ستيوارت راسل، وهو رائد في مجال الذكاء الاصطناعي وأستاذ علوم الكمبيوتر في جامعة كاليفورنيا في بيركلي: "هذا ليس حظراً أو حتى وقفاً بالمعنى المعتاد". "إنه ببساطة اقتراح لطلب اتخاذ تدابير السلامة الكافية لتكنولوجيا من شأنها، وفقاً لمطوريها، أن تتسبب في انقراض البشر. هل هذا طلب مبالغ فيه؟

آراء خبراء الذكاء الاصطناعي

كما وقّع كل من رائدي الذكاء الاصطناعي يوشوا بينجيو وجيفري هينتون، الفائزان بجائزة تورينج، وهي أعلى جائزة في علوم الحاسوب. كما فاز هينتون بجائزة نوبل في الفيزياء العام الماضي. وكلاهما كان صريحاً في لفت الانتباه إلى مخاطر التكنولوجيا التي ساعدا في ابتكارها.

لكن القائمة تضم أيضًا بعض المفاجآت، بما في ذلك بانون وبيك، في محاولة من منظمي الرسالة في معهد مستقبل الحياة غير الربحي لمناشدة حركة الرئيس دونالد ترامب "اجعلوا أمريكا عظيمة مرة أخرى" حتى في الوقت الذي سعى فيه موظفو البيت الأبيض التابع لترامب إلى تخفيف القيود المفروضة على تطوير الذكاء الاصطناعي في الولايات المتحدة.

شخصيات مفاجئة في قائمة الموقعين

وتضم القائمة أيضًا المؤسس المشارك لشركة آبل ستيف وزنياك؛ والملياردير البريطاني ريتشارد برانسون؛ ورئيس هيئة الأركان المشتركة الأمريكية السابق مايك مولن، الذي خدم في ظل إدارات جمهورية وديمقراطية؛ وخبيرة السياسة الخارجية الديمقراطية سوزان رايس، التي كانت مستشارة الأمن القومي للرئيس باراك أوباما.

كما وقّعت الرئيسة الأيرلندية السابقة ماري روبنسون والعديد من البرلمانيين البريطانيين والأوروبيين وأعضاء سابقين في الكونغرس الأمريكي، وكذلك الممثلان ستيفن فراي وجوزيف غوردون ليفيت، والموسيقي ويل آي آم، الذي تبنى الذكاء الاصطناعي في مجال الإبداع الموسيقي.

نقاشات حول مخاطر الذكاء الاصطناعي الخارق

كتب جوردون-ليفيت، الذي عملت زوجته تاشا ماكولي في مجلس إدارة OpenAI قبل الاضطرابات التي أدت إلى الإطاحة المؤقتة بالرئيس التنفيذي سام ألتمان في عام 2023: "نعم، نريد أدوات ذكاء اصطناعي محددة يمكنها المساعدة في علاج الأمراض وتعزيز الأمن القومي وما إلى ذلك". "ولكن هل يحتاج الذكاء الاصطناعي أيضاً إلى تقليد البشر، وتهيئة أطفالنا، وتحويلنا جميعاً إلى مدمني سلوب وجني مليارات الدولارات من خلال تقديم الإعلانات؟ معظم الناس لا يريدون ذلك."

مخاوف المجتمع الأكاديمي

من المرجح أن تثير الرسالة نقاشات مستمرة داخل مجتمع أبحاث الذكاء الاصطناعي حول احتمال وجود ذكاء اصطناعي خارق والمسارات التقنية للوصول إليه ومدى خطورته.

قال ماكس تيغمارك، رئيس معهد مستقبل الحياة والأستاذ في معهد ماساتشوستس للتكنولوجيا: "في الماضي، كان الأمر في الغالب عبارة عن مهووسين ضد المهووسين". "أشعر أن ما نراه هنا حقًا هو كيف أصبح النقد سائدًا للغاية."

ومما يزيد من تعقيد المناقشات الأوسع نطاقاً هو أن نفس الشركات التي تسعى جاهدة نحو ما يسميه البعض بالذكاء الفائق والبعض الآخر بالذكاء العام الاصطناعي، أو الذكاء الاصطناعي العام، تقوم أحياناً بتضخيم قدرات منتجاتها، مما يجعلها أكثر قابلية للتسويق وساهم في إثارة المخاوف بشأن فقاعة الذكاء الاصطناعي. وقد قوبلت OpenAI مؤخرًا بالسخرية من علماء الرياضيات وعلماء الذكاء الاصطناعي عندما ادعى باحثها أن ChatGPT قد اكتشف مسائل رياضية لم تُحل، في حين أن ما فعلته حقًا هو العثور على ما هو موجود بالفعل على الإنترنت وتلخيصه.

تضخيم قدرات الذكاء الاصطناعي

قال تيغمارك: "هناك الكثير من الأشياء التي تم تضخيمها بشكل مبالغ فيه وعليك أن تكون حذرًا كمستثمر، ولكن هذا لا يغير حقيقة أن الذكاء الاصطناعي، بالتقريب، قد تطور بشكل أسرع بكثير في السنوات الأربع الماضية مما توقعه معظم الناس".

كانت مجموعة تيغمارك أيضاً وراء رسالة صدرت في مارس 2023، وهي لا تزال في فجر طفرة الذكاء الاصطناعي التجاري، والتي دعت عمالقة التكنولوجيا إلى إيقاف تطوير نماذج ذكاء اصطناعي أكثر قوة مؤقتاً. لم تستجب أي من شركات الذكاء الاصطناعي الكبرى لتلك الدعوة. وكان إيلون ماسك، أبرز الموقعين على رسالة 2023، في الوقت نفسه يؤسس بهدوء شركته الناشئة الخاصة بالذكاء الاصطناعي لمنافسة الشركات التي أرادها أن تتوقف مؤقتاً لمدة 6 أشهر.

دعوات سابقة لوقف تطوير الذكاء الاصطناعي

ورداً على سؤال عما إذا كان قد تواصل مع ماسك مرة أخرى هذه المرة، قال تيغمارك إنه كتب إلى الرؤساء التنفيذيين لجميع مطوري الذكاء الاصطناعي الرئيسيين في الولايات المتحدة ولكنه لم يتوقع منهم التوقيع.

وقال تيغمارك: "بصراحة، أنا أتعاطف معهم حقًا، لأنهم عالقون في هذا السباق نحو القاع لدرجة أنهم يشعرون بضغط لا يقاوم للاستمرار وعدم تجاوزهم من قبل الشخص الآخر". "أعتقد أن هذا هو السبب في أهمية وصم السباق نحو الذكاء الفائق، لدرجة أن الحكومة الأمريكية تتدخل في هذا السباق."