نيوسوم ينقض قانون سلامة الذكاء الاصطناعي في كاليفورنيا

استخدم حاكم ولاية كاليفورنيا غافين نيوسوم حق النقض (الفيتو) ضد مشروع قانون تاريخي يهدف إلى وضع تدابير السلامة الأولى من نوعها في البلاد لنماذج الذكاء الاصطناعي الكبيرة يوم الأحد.

ويُعد هذا القرار ضربة كبيرة للجهود التي تحاول كبح جماح الصناعة المحلية التي تتطور بسرعة مع القليل من الرقابة. كان من شأن مشروع القانون أن يضع بعض اللوائح التنظيمية الأولى لنماذج الذكاء الاصطناعي واسعة النطاق في البلاد ويمهد الطريق للوائح سلامة الذكاء الاصطناعي في جميع أنحاء البلاد، حسبما قال المؤيدون.

في وقت سابق من هذا الشهر، قال الحاكم الديمقراطي أمام جمهور في مؤتمر Dreamforce، وهو مؤتمر سنوي تستضيفه شركة البرمجيات العملاقة Salesforce، إن كاليفورنيا يجب أن تكون رائدة في تنظيم الذكاء الاصطناعي في مواجهة التقاعس الفيدرالي ولكن الاقتراح "يمكن أن يكون له تأثير مخيف على الصناعة".

قال نيوسوم إن الاقتراح، الذي أثار معارضة شديدة من الشركات الناشئة وعمالقة التكنولوجيا والعديد من أعضاء مجلس النواب الديمقراطيين، كان من الممكن أن يضر بالصناعة المحلية من خلال وضع متطلبات صارمة.

وقال نيوسوم في بيان له: "على الرغم من حسن النية، إلا أن SB 1047 لا يأخذ في الاعتبار ما إذا كان نظام الذكاء الاصطناعي يتم نشره في بيئات عالية المخاطر، أو ينطوي على اتخاذ قرارات حاسمة أو استخدام بيانات حساسة". "وبدلاً من ذلك، يطبق مشروع القانون معايير صارمة حتى على أكثر الوظائف الأساسية - طالما أن النظام الكبير ينشره. لا أعتقد أن هذا هو أفضل نهج لحماية الجمهور من التهديدات الحقيقية التي تشكلها التكنولوجيا."

وبدلاً من ذلك، أعلن نيوسوم يوم الأحد أن الولاية ستشترك مع العديد من خبراء الصناعة، بما في ذلك رائد الذكاء الاصطناعي فاي-في لي، لتطوير حواجز حماية حول نماذج الذكاء الاصطناعي القوية. عارض لي اقتراح سلامة الذكاء الاصطناعي.

كان من شأن هذا الإجراء، الذي يهدف إلى الحد من المخاطر المحتملة التي قد تنشأ عن الذكاء الاصطناعي، أن يتطلب من الشركات اختبار نماذجها والكشف علناً عن بروتوكولات السلامة الخاصة بها لمنع التلاعب بالنماذج، على سبيل المثال، للقضاء على الشبكة الكهربائية للدولة أو المساعدة في صنع أسلحة كيميائية. يقول الخبراء إن هذه السيناريوهات قد تكون ممكنة في المستقبل مع استمرار تقدم الصناعة بسرعة. كما أنها كانت ستوفر الحماية للعمال المبلغين عن المخالفات.

وقد وصف مؤلف مشروع القانون، السيناتور الديمقراطي سكوت وينر، وهو عضو مجلس الشيوخ عن الولاية سكوت وينر، حق النقض بأنه "انتكاسة لكل من يؤمن بالرقابة على الشركات الضخمة التي تتخذ قرارات حاسمة تؤثر على سلامة ورفاهية الجمهور ومستقبل الكوكب."

"تعترف الشركات المطورة لأنظمة الذكاء الاصطناعي المتقدمة بأن المخاطر التي تمثلها هذه النماذج على الجمهور حقيقية وتتزايد بسرعة. وبينما قدمت مختبرات الذكاء الاصطناعي الكبيرة التزامات مثيرة للإعجاب بمراقبة هذه المخاطر والتخفيف من حدتها، فإن الحقيقة هي أن الالتزامات الطوعية من الصناعة غير قابلة للتنفيذ ونادراً ما تنجح بشكل جيد بالنسبة للجمهور".

قال وينر إن النقاش الدائر حول مشروع القانون قد طوّر قضية سلامة الذكاء الاصطناعي بشكل كبير، وأنه سيواصل الضغط على هذه النقطة.

هذا التشريع هو من بين مجموعة من مشاريع القوانين التي أقرتها الهيئة التشريعية هذا العام لتنظيم الذكاء الاصطناعي ومكافحة التزييف العميق وحماية العمال. قال المشرعون في الولاية إنه يجب على ولاية كاليفورنيا اتخاذ إجراءات هذا العام، مستشهدين بالدروس القاسية التي تعلموها من فشلهم في كبح جماح شركات التواصل الاجتماعي عندما سنحت لهم الفرصة.

قال مؤيدو هذا الإجراء، بما في ذلك إيلون ماسك وأنثروبيك، إن الاقتراح كان من الممكن أن يضخ بعض مستويات الشفافية والمساءلة حول نماذج الذكاء الاصطناعي واسعة النطاق، حيث يقول المطورون والخبراء إنهم لا يزالون لا يملكون فهماً كاملاً لكيفية تصرف نماذج الذكاء الاصطناعي ولماذا.

وقد استهدف مشروع القانون الأنظمة التي تتطلب مستوى عالٍ من قوة الحوسبة وأكثر من 100 مليون دولار لبنائها. لم تصل أي نماذج ذكاء اصطناعي حالية إلى هذا الحد، لكن بعض الخبراء قالوا إن ذلك قد يتغير خلال العام المقبل.

قال دانيال كوكوتايجلو، الباحث السابق في OpenAI الذي استقال في أبريل بسبب ما اعتبره تجاهل الشركة لمخاطر الذكاء الاصطناعي: "هذا بسبب التوسع الهائل في الاستثمار في هذا المجال". "هذا قدر هائل من القوة لا يمكن لأي شركة خاصة أن تتحكم فيه دون محاسبة، كما أنه ينطوي على مخاطر لا تصدق."

الولايات المتحدة متأخرة بالفعل عن أوروبا في تنظيم الذكاء الاصطناعي للحد من المخاطر. قال المؤيدون إن اقتراح كاليفورنيا لم يكن شاملاً مثل اللوائح التنظيمية في أوروبا، لكنه كان من الممكن أن يكون خطوة أولى جيدة لوضع حواجز حماية حول التكنولوجيا سريعة النمو التي تثير المخاوف بشأن فقدان الوظائف والمعلومات المضللة وانتهاك الخصوصية والتحيز في الأتمتة.

وقد وافق عدد من شركات الذكاء الاصطناعي الرائدة العام الماضي طواعية على اتباع الضمانات التي وضعها البيت الأبيض، مثل اختبار ومشاركة المعلومات حول نماذجها. وكان من شأن مشروع قانون كاليفورنيا أن يلزم مطوري الذكاء الاصطناعي باتباع متطلبات مماثلة لتلك الالتزامات، كما قال مؤيدو الإجراء.

لكن المنتقدين، بما في ذلك رئيسة مجلس النواب الأمريكي السابقة نانسي بيلوسي، جادلوا بأن مشروع القانون "سيقتل تكنولوجيا كاليفورنيا" ويخنق الابتكار. وقالوا إنه كان من شأنه أن يثني مطوري الذكاء الاصطناعي عن الاستثمار في النماذج الكبيرة أو مشاركة البرامج مفتوحة المصدر.

يمثل قرار نيوسوم باستخدام حق النقض ضد مشروع القانون فوزًا آخر في كاليفورنيا لشركات التكنولوجيا الكبرى ومطوري الذكاء الاصطناعي، الذين أمضى العديد منهم العام الماضي في الضغط إلى جانب غرفة التجارة في كاليفورنيا للتأثير على الحاكم والمشرعين من أجل منعهم من تطوير لوائح الذكاء الاصطناعي.

كما واجه مقترحان آخران شاملان للذكاء الاصطناعي، واللذان واجها أيضًا معارضة متزايدة من صناعة التكنولوجيا وغيرها، قد ماتا قبل الموعد النهائي التشريعي الشهر الماضي. كان من شأن مشروعي القانونين أن يطلبا من مطوري الذكاء الاصطناعي تصنيف المحتوى الذي ينشئه الذكاء الاصطناعي وحظر التمييز من أدوات الذكاء الاصطناعي المستخدمة في اتخاذ قرارات التوظيف.

وقد قال الحاكم في وقت سابق من هذا الصيف إنه يريد حماية مكانة كاليفورنيا كرائد عالمي في مجال الذكاء الاصطناعي، مشيرًا إلى أن 32 من أكبر 50 شركة ذكاء اصطناعي في العالم تقع في الولاية.

وقد قام بالترويج لكاليفورنيا باعتبارها من أوائل من تبنوا الذكاء الاصطناعي حيث يمكن للولاية قريباً نشر أدوات الذكاء الاصطناعي التوليدي لمعالجة ازدحام الطرق السريعة وتقديم الإرشادات الضريبية وتبسيط برامج التشرد. كما أعلنت الولاية الشهر الماضي عن شراكة طوعية مع شركة إنفيديا العملاقة للذكاء الاصطناعي للمساعدة في تدريب الطلاب وأعضاء هيئة التدريس بالجامعات والمطورين وعلماء البيانات. كما تدرس كاليفورنيا أيضًا قواعد جديدة ضد التمييز في ممارسات التوظيف باستخدام الذكاء الاصطناعي.

في وقت سابق من هذا الشهر، وقّع نيوسوم على بعض القوانين الأكثر صرامة في البلاد لاتخاذ إجراءات صارمة ضد التزييف العميق للانتخابات وإجراءات لحماية العاملين في هوليوود من الاستخدام غير المصرح به للذكاء الاصطناعي.

ولكن حتى مع نقض نيوسوم، فإن مقترح السلامة في كاليفورنيا يلهم المشرعين في ولايات أخرى لاتخاذ تدابير مماثلة، كما قالت تاتيانا رايس، نائبة مدير منتدى مستقبل الخصوصية، وهي منظمة غير ربحية تعمل مع المشرعين بشأن مقترحات التكنولوجيا والخصوصية.

وقالت رايس: "من المحتمل أن يقوموا إما بنسخه أو القيام بشيء مماثل في الدورة التشريعية القادمة". "لذا فإن الأمر لن يختفي."