تحذيرات من المدعين العامين بشأن سلامة ChatGPT

تحذيرات المدعيين العامين بشأن سلامة ChatGPT

حذر المدعيان العامان في كاليفورنيا وديلاوير يوم الجمعة شركة OpenAI من أن لديهم "مخاوف جدية" بشأن سلامة روبوت الدردشة الآلي الرائد التابع لها، ChatGPT، خاصةً للأطفال والمراهقين.

اجتماع مع فريق OpenAI القانوني

أرسل المسؤولان في الولايتين، اللذان يتمتعان بسلطات فريدة لتنظيم المنظمات غير الربحية مثل OpenAI، الرسالة إلى الشركة بعد اجتماع مع فريقها القانوني في وقت سابق من هذا الأسبوع في ويلمنجتون بولاية ديلاوير.

مراجعة خطط OpenAI للسلامة

أمضى المدعي العام لولاية كاليفورنيا روب بونتا والمدعي العام لولاية ديلاوير كاثلين جينينغز شهورًا في مراجعة خطط OpenAI لإعادة هيكلة أعمالها، مع التركيز على "ضمان رقابة صارمة وقوية على مهمة OpenAI في مجال السلامة."

التقارير المقلقة حول التفاعلات الخطيرة

لكنهم قالوا إنهم قلقون من "التقارير المقلقة للغاية بشأن التفاعلات الخطيرة بين" روبوتات الدردشة الآلية ومستخدميها، بما في ذلك "الوفاة المفجعة بانتحار شاب من كاليفورنيا بعد تفاعله المطول مع روبوت الدردشة OpenAI، بالإضافة إلى جريمة قتل وانتحار مقلقة مماثلة في ولاية كونيتيكت. ومهما كانت الضمانات التي تم وضعها لم تنجح."

دعوى قضائية من والدي الشاب المتوفي

رفع والدا الصبي البالغ من العمر 16 عامًا، الذي توفي في أبريل، دعوى قضائية ضد شركة OpenAI ومديرها التنفيذي، سام ألتمان، الشهر الماضي.

تاريخ OpenAI وتوجهاتها المستقبلية

تأسست OpenAI كمؤسسة غير ربحية ذات مهمة تركز على السلامة لبناء ذكاء اصطناعي أفضل من البشر، وقد سعت OpenAI مؤخرًا إلى أن يسيطر ذراعها الربحي على المؤسسة غير الربحية قبل أن تتخلى عن تلك الخطط في مايو بعد مناقشات مع مكتبي بونتا وجينينغز ومجموعات غير ربحية أخرى.

الإشراف على تغييرات OpenAI

ويتولى المسؤولان المنتخبان، وكلاهما ديمقراطيان، الإشراف على أي تغييرات من هذا القبيل لأن OpenAI مؤسسة في ولاية ديلاوير وتعمل من كاليفورنيا، حيث يقع مقرها الرئيسي في سان فرانسيسكو.

خطط إعادة الرسملة لـ OpenAI

بعد أن تخلت OpenAI عن خططها الأولية، تسعى OpenAI إلى الحصول على موافقة المسؤولين على "إعادة الرسملة"، حيث سيتحول الذراع الحالية للمنظمة غير الربحية إلى شركة ذات نفع عام يجب أن تراعي مصالح كل من المساهمين والمهمة.

دعوة لتحسين تدابير السلامة

كتب بونتا وجينينغز يوم الجمعة عن "وجهة نظرهما المشتركة" بأن OpenAI والصناعة بحاجة إلى تدابير سلامة أفضل.

أهمية الشفافية في نشر الذكاء الاصطناعي

وكتبا "الوفيات الأخيرة غير مقبولة". "لقد زعزعت بحق ثقة الجمهور الأمريكي في OpenAI وهذه الصناعة. يجب على OpenAI وصناعة الذكاء الاصطناعي ضمان النشر الآمن للذكاء الاصطناعي بشكل استباقي وشفاف. إن القيام بذلك هو أمر تفرضه مهمة OpenAI الخيرية، وسيكون مطلوبًا ومفروضًا من قبل مكاتبنا المعنية."

رسالة من مجموعة من المدعيين العامين

تأتي هذه الرسالة الأكثر تركيزًا من مسؤولي كاليفورنيا وديلاوير في أعقاب رسالة أُرسلت إلى OpenAI وشركات التكنولوجيا الأخرى بما في ذلك Meta و Google الأسبوع الماضي من مجموعة من الحزبين الجمهوري والديمقراطي تضم 44 مدعٍ عام حذروا أيضًا من "مخاوف خطيرة" بشأن سلامة الأطفال الذين يتفاعلون مع روبوتات الدردشة الآلية التي يمكن أن تستجيب "بمحادثات ذات إيحاءات جنسية وسلوكيات متلاعبة عاطفية".