تحذيرات من المدعين العامين بشأن سلامة ChatGPT

حذر المدعيان العامان في كاليفورنيا وديلاوير يوم الجمعة شركة OpenAI من أن لديهم "مخاوف جدية" بشأن سلامة روبوت الدردشة الآلي الرائد التابع لها، ChatGPT، خاصةً للأطفال والمراهقين.

أرسل المسؤولان في الولايتين، اللذان يتمتعان بسلطات فريدة لتنظيم المنظمات غير الربحية مثل OpenAI، الرسالة إلى الشركة بعد اجتماع مع فريقها القانوني في وقت سابق من هذا الأسبوع في ويلمنجتون بولاية ديلاوير.

أمضى المدعي العام لولاية كاليفورنيا روب بونتا والمدعي العام لولاية ديلاوير كاثلين جينينغز شهورًا في مراجعة خطط OpenAI لإعادة هيكلة أعمالها، مع التركيز على "ضمان رقابة صارمة وقوية على مهمة OpenAI في مجال السلامة."

لكنهم قالوا إنهم قلقون من "التقارير المقلقة للغاية بشأن التفاعلات الخطيرة بين" روبوتات الدردشة الآلية ومستخدميها، بما في ذلك "الوفاة المفجعة بانتحار شاب من كاليفورنيا بعد تفاعله المطول مع روبوت الدردشة OpenAI، بالإضافة إلى جريمة قتل وانتحار مقلقة مماثلة في ولاية كونيتيكت. ومهما كانت الضمانات التي تم وضعها لم تنجح."

رفع والدا الصبي البالغ من العمر 16 عامًا، الذي توفي في أبريل، دعوى قضائية ضد شركة OpenAI ومديرها التنفيذي، سام ألتمان، الشهر الماضي.

تأسست OpenAI كمؤسسة غير ربحية ذات مهمة تركز على السلامة لبناء ذكاء اصطناعي أفضل من البشر، وقد سعت OpenAI مؤخرًا إلى أن يسيطر ذراعها الربحي على المؤسسة غير الربحية قبل أن تتخلى عن تلك الخطط في مايو بعد مناقشات مع مكتبي بونتا وجينينغز ومجموعات غير ربحية أخرى.

ويتولى المسؤولان المنتخبان، وكلاهما ديمقراطيان، الإشراف على أي تغييرات من هذا القبيل لأن OpenAI مؤسسة في ولاية ديلاوير وتعمل من كاليفورنيا، حيث يقع مقرها الرئيسي في سان فرانسيسكو.

بعد أن تخلت OpenAI عن خططها الأولية، تسعى OpenAI إلى الحصول على موافقة المسؤولين على "إعادة الرسملة"، حيث سيتحول الذراع الحالية للمنظمة غير الربحية إلى شركة ذات نفع عام يجب أن تراعي مصالح كل من المساهمين والمهمة.

كتب بونتا وجينينغز يوم الجمعة عن "وجهة نظرهما المشتركة" بأن OpenAI والصناعة بحاجة إلى تدابير سلامة أفضل.

وكتبا "الوفيات الأخيرة غير مقبولة". "لقد زعزعت بحق ثقة الجمهور الأمريكي في OpenAI وهذه الصناعة. يجب على OpenAI وصناعة الذكاء الاصطناعي ضمان النشر الآمن للذكاء الاصطناعي بشكل استباقي وشفاف. إن القيام بذلك هو أمر تفرضه مهمة OpenAI الخيرية، وسيكون مطلوبًا ومفروضًا من قبل مكاتبنا المعنية."

تأتي هذه الرسالة الأكثر تركيزًا من مسؤولي كاليفورنيا وديلاوير في أعقاب رسالة أُرسلت إلى OpenAI وشركات التكنولوجيا الأخرى بما في ذلك Meta و Google الأسبوع الماضي من مجموعة من الحزبين الجمهوري والديمقراطي تضم 44 مدعٍ عام حذروا أيضًا من "مخاوف خطيرة" بشأن سلامة الأطفال الذين يتفاعلون مع روبوتات الدردشة الآلية التي يمكن أن تستجيب "بمحادثات ذات إيحاءات جنسية وسلوكيات متلاعبة عاطفية".