أثارت أنثروبيك جدل الذكاء الاصطناعي العسكري

تحذير هيغستيث لشركة أنثروبيك بشأن استخدام الذكاء الاصطناعي

منح وزير الدفاع الأمريكي بيت هيجسيث الرئيس التنفيذي لشركة أنثروبيك مهلة يوم الجمعة لفتح تكنولوجيا الذكاء الاصطناعي الخاصة بالشركة للاستخدام العسكري غير المقيد أو المخاطرة بفقدان عقدها الحكومي، وفقًا لما ذكره شخص مطلع على اجتماعهما يوم الثلاثاء.

الاجتماع بين وزير الدفاع والرئيس التنفيذي لشركة أنثروبيك

تصنع شركة أنثروبيك روبوت الدردشة الآلية "كلود" وهي آخر شركة من بين نظرائها التي لم تزود تقنيتها لشبكة داخلية عسكرية أمريكية جديدة. وقد أوضح الرئيس التنفيذي للشركة داريو أمودي مرارًا وتكرارًا مخاوفه الأخلاقية بشأن الاستخدام الحكومي غير الخاضع للرقابة للذكاء الاصطناعي، بما في ذلك مخاطر الطائرات بدون طيار المسلحة ذاتية التشغيل بالكامل والمراقبة الجماعية بمساعدة الذكاء الاصطناعي التي يمكن أن تتعقب المعارضة.

مخاوف أنثروبيك بشأن الاستخدام العسكري للذكاء الاصطناعي

وقد حذر مسؤولو الدفاع من أنهم قد يصنفون شركة أنثروبيك ضمن مخاطر سلسلة التوريد أو استخدام قانون الإنتاج الدفاعي لمنح الجيش بشكل أساسي المزيد من السلطة لاستخدام منتجاتها حتى لو لم يوافق على كيفية استخدامها، وفقًا للشخص المطلع على الاجتماع ومسؤول كبير في البنتاغون، وكلاهما غير مخول بالتعليق علنًا وتحدثا شريطة عدم الكشف عن هويتهما.

الجدل حول دور الذكاء الاصطناعي في الأمن القومي

يسلط هذا التطور، الذي أورده موقع أكسيوس في وقت سابق، الضوء على الجدل الدائر حول دور الذكاء الاصطناعي في الأمن القومي والمخاوف بشأن كيفية استخدام التكنولوجيا في المواقف شديدة الخطورة التي تنطوي على قوة مميتة أو معلومات حساسة أو مراقبة حكومية. كما يأتي ذلك في الوقت الذي تعهد فيه هيغسيث باستئصال ما أسماه "ثقافة الوعي الزائف" في القوات المسلحة.

وكتب أمودي في مقال له الشهر الماضي: "يمكن للذكاء الاصطناعي القوي الذي يبحث في مليارات المحادثات التي يجريها ملايين الأشخاص أن يقيس مشاعر الجمهور، ويكشف عن جيوب عدم الولاء التي تتشكل، ويقضي عليها قبل أن تنمو".

وصف الشخص المطلع لهجة الاجتماع بأنها ودية لكنه قال إن أمودي لم يتزحزح عن مجالين حددهما كخطوط لن تتخطاها أنثروبيك عمليات الاستهداف العسكري المستقلة بالكامل والمراقبة المحلية للمواطنين الأمريكيين.

وقال المسؤول الكبير في البنتاجون إن البنتاجون يعترض على القيود الأخلاقية لأن العمليات العسكرية تحتاج إلى أدوات لا تأتي مع قيود مدمجة. وجادل المسؤول بأن البنتاغون لم يصدر سوى أوامر قانونية، وشدد على أن استخدام أدوات أنثروبيك بشكل قانوني سيكون مسؤولية الجيش.

أعلن البنتاغون في الصيف الماضي عن منح عقود دفاعية لأربع شركات ذكاء اصطناعي أنثروبيك وجوجل وأوبن إيه آي وشركة xAI المملوكة لإيلون ماسك. وتصل قيمة كل عقد إلى 200 مليون دولار.

عقود الدفاع لشركة أنثروبيك والشبكات العسكرية السرية

كانت أنثروبيك أول شركة ذكاء اصطناعي تحصل على الموافقة على الشبكات العسكرية السرية، حيث تعمل مع شركاء مثل بالانتير. تعمل الشركات الثلاث الأخرى، في الوقت الحالي، في بيئات غير سرية فقط.

تفاصيل العقود الدفاعية مع أنثروبيك والشركات الأخرى

وبحلول أوائل هذا العام، كان هيغسيث يسلط الضوء على شركتين فقط منهم: xAI وجوجل. وقال في خطاب ألقاه في كانون الثاني/يناير في شركة ماسك للرحلات الفضائية، سبيس إكس، في جنوب تكساس أنه كان يتجاهل أي نماذج للذكاء الاصطناعي "لن تسمح لك بخوض الحروب".

التعاون بين أنثروبيك وشركاء آخرين في الذكاء الاصطناعي

قال هيغسيث إن رؤيته لأنظمة الذكاء الاصطناعي العسكرية تعني أن تعمل "دون قيود أيديولوجية تحد من التطبيقات العسكرية المشروعة"، مضيفًا أن "ذكاء البنتاغون الاصطناعي لن يكون خاضعًا لتوجهات فكرية متطرفة".

قال وزير الدفاع إن روبوت ماسك للذكاء الاصطناعي "غروك" (Grok) سينضم إلى شبكة البنتاغون التي تسمى GenAI.mil. جاء هذا الإعلان بعد أيام من تعرض "غروك" المدمج في شبكة التواصل الاجتماعي "إكس" المملوكة لماسك لتدقيق عالمي بسبب توليد صور جنسية مزيفة للغاية لأشخاص دون موافقتهم.

أعلنت شركة OpenAI في أوائل فبراير أنها ستنضم هي الأخرى إلى منصة الذكاء الاصطناعي الآمنة التابعة للجيش، مما يتيح لأفراد الخدمة استخدام نسخة مخصصة من ChatGPT للمهام غير السرية.

لطالما روجت شركة أنثروبيك لنفسها على أنها الأكثر مسؤولية ومراعاة للسلامة بين شركات الذكاء الاصطناعي الرائدة، منذ أن استقال مؤسسوها من OpenAI لتأسيس الشركة الناشئة في عام 2021.

أنثروبيك وحرصها على السلامة في الذكاء الاصطناعي

ووفقاً لأوين دانييلز، المدير المساعد للتحليل والزميل في مركز الأمن والتكنولوجيا الناشئة بجامعة جورج تاون فإن حالة عدم اليقين مع البنتاغون تضع هذه النوايا على المحك.

التحديات التي تواجه أنثروبيك مع البنتاغون

وقال دانييلز: "لقد كان أقران أنثروبيك، بما في ذلك ميتا وجوجل و xAI، على استعداد للامتثال لسياسة الوزارة بشأن استخدام النماذج لجميع التطبيقات القانونية". "لذا، فإن قدرة الشركة على المساومة هنا محدودة، وهي تخاطر بفقدان التأثير في دفع القسم لتبني الذكاء الاصطناعي."

في جنون الذكاء الاصطناعي الذي أعقب إصدار ChatGPT، انحازت أنثروبيك بشكل وثيق إلى إدارة الرئيس جو بايدن الديمقراطية في التطوع لإخضاع أنظمة الذكاء الاصطناعي الخاصة بها لتدقيق طرف ثالث للحماية من مخاطر الأمن القومي.

وقد حذر أمودي، الرئيس التنفيذي للشركة، من المخاطر الكارثية المحتملة للذكاء الاصطناعي بينما رفض وصف الذكاء الاصطناعي بأنه "متخلف". وقال في مقال يناير/كانون الثاني: "نحن أقرب إلى حد كبير إلى خطر حقيقي في عام 2026 مما كنا عليه في عام 2023"، ولكن يجب إدارة هذه المخاطر "بطريقة واقعية وعملية".

تحذيرات أمودي بشأن مخاطر الذكاء الاصطناعي

لن تكون هذه هي المرة الأولى التي تضعها دعوة أنثروبيك لضمانات أكثر صرامة للذكاء الاصطناعي على خلاف مع إدارة الرئيس دونالد ترامب. فقد انتقدت شركة أنثروبيك شركة إنفيديا لصناعة الرقائق الإلكترونية علناً، منتقدةً مقترحات ترامب بتخفيف ضوابط التصدير لتمكين بيع بعض رقائق الكمبيوتر التي تعمل بالذكاء الاصطناعي في الصين. ومع ذلك، لا تزال شركة الذكاء الاصطناعي شريكًا وثيقًا مع إنفيديا.

كما كانت إدارة ترامب الجمهورية وشركة أنثروبيك على طرفي نقيض في حملة الضغط لتنظيم الذكاء الاصطناعي في الولايات الأمريكية.

خلاف أنثروبيك مع إدارة ترامب حول تنظيم الذكاء الاصطناعي

وقد اتهم كبير مستشاري ترامب للذكاء الاصطناعي، ديفيد ساكس، شركة أنثروبيك في أكتوبر "بإدارة استراتيجية متطورة للهيمنة التنظيمية القائمة على إثارة الخوف".

التوترات بين أنثروبيك وإدارة ترامب

كان ساكس يرد على موقع X على جاك كلارك، أحد مؤسسي شركة أنثروبيك، حيث كتب عن محاولته الموازنة بين التفاؤل التكنولوجي و"الخوف المناسب" من المسيرة المطردة نحو أنظمة ذكاء اصطناعي أكثر قدرة.

وظّفت أنثروبيك عددًا من المسؤولين السابقين في عهد بايدن بعد فترة وجيزة من عودة ترامب إلى البيت الأبيض، لكنها حاولت أيضًا الإشارة إلى نهج الحزبين. فقد أضافت الشركة مؤخراً كريس ليدل، وهو مسؤول سابق في البيت الأبيض من ولاية ترامب الأولى، إلى مجلس إدارتها.

قال آموس توه، كبير المستشارين في برنامج الحرية والأمن القومي التابع لمركز برينان في جامعة نيويورك، إن تبني البنتاغون "السريع" للذكاء الاصطناعي يُظهر الحاجة إلى مزيد من الرقابة أو التنظيم من قبل الكونغرس، خاصة إذا كان الذكاء الاصطناعي يُستخدم لمراقبة الأمريكيين.

استراتيجية أنثروبيك في التعامل مع القضايا السياسية

وكتب توه في منشور على موقع بلوسكي: "القانون لا يواكب سرعة تطور التكنولوجيا". "لكن هذا لا يعني أن وزارة الدفاع لديها شيك على بياض."