تمت إزالة صور سوء معاملة الأطفال من مصدر تدريب مولد الصور الذكاء الاصطناعي، وفقًا للباحثين

قال باحثون في مجال الذكاء الاصطناعي يوم الجمعة إنهم حذفوا أكثر من ألفي رابط على شبكة الإنترنت لصور اعتداء جنسي على الأطفال مشتبه بها من مجموعة بيانات تُستخدم لتدريب أدوات الذكاء الاصطناعي الشهيرة لتوليد الصور.

تعتبر مجموعة بيانات لايون LAION البحثية فهرسًا ضخمًا للصور والتعليقات التوضيحية على الإنترنت التي كانت مصدرًا لأدوات رائدة في مجال الذكاء الاصطناعي لتوليد الصور مثل Stable Diffusion وMidjourney.

لكن تقريراً صدر العام الماضي عن مرصد ستانفورد للإنترنت وجد أنها تحتوي على روابط لصور جنسية صريحة للأطفال، مما ساهم في سهولة تمكن بعض أدوات الذكاء الاصطناعي من إنتاج صور مزيفة واقعية عميقة تصور الأطفال.

وقد دفع تقرير ديسمبر هذا LAION، غير الربحية "شبكة الذكاء الاصطناعي المفتوحة على نطاق واسع"، إلى إزالة مجموعة بياناتها على الفور. وبعد مرور ثمانية أشهر، قالت لايون LAION في منشور على مدونة أنها عملت مع مجموعة مراقبة جامعة ستانفورد ومنظمات مكافحة إساءة الاستخدام في كندا والمملكة المتحدة لإصلاح المشكلة وإصدار مجموعة بيانات منقحة لأبحاث الذكاء الاصطناعي المستقبلية.

وقد أثنى الباحث في جامعة ستانفورد ديفيد ثيل، مؤلف تقرير ديسمبر، على لايون LAION للتحسينات الكبيرة التي أدخلتها على هذه المجموعة، لكنه قال إن الخطوة التالية هي سحب "النماذج الملوثة" التي لا تزال قادرة على إنتاج صور إساءة معاملة الأطفال من التوزيع.

إحدى الأدوات المستندة إلى LAION التي حددتها ستانفورد على أنها "النموذج الأكثر شيوعًا لتوليد الصور الصريحة" - وهي نسخة قديمة ومفلترة بشكل خفيف من Stable Diffusion - ظلت متاحة بسهولة حتى يوم الخميس، عندما قامت شركة Runway ML ومقرها نيويورك بإزالتها من مستودع نماذج الذكاء الاصطناعي Hugging Face. وقالت شركةرنواي Runway في بيان لها يوم الجمعة إن ذلك كان "إهمالًا مخططًا لنماذج البحث والرموز التي لم تتم صيانتها بشكل نشط".

تأتي النسخة التي تم تنظيفها من مجموعة بيانات لايون LAION في الوقت الذي تقوم فيه الحكومات في جميع أنحاء العالم بإلقاء نظرة فاحصة على كيفية استخدام بعض الأدوات التقنية في صنع أو توزيع صور غير قانونية للأطفال.

رفع المدعي العام لمدينة سان فرانسيسكو في وقت سابق من هذا الشهر دعوى قضائية تسعى لإغلاق مجموعة من المواقع الإلكترونية التي تتيح إنشاء صور عارية للنساء والفتيات مولدة بالذكاء الاصطناعي. إن التوزيع المزعوم لصور الاعتداء الجنسي على الأطفال على تطبيق المراسلة Telegram هو جزء مما دفع السلطات الفرنسية إلى توجيه اتهامات يوم الأربعاء ضد مؤسس المنصة ورئيسها التنفيذي بافل دوروف.

قال ديفيد إيفان هاريس، الباحث في جامعة كاليفورنيا في بيركلي الذي تواصل مؤخرًا مع "رنواي" مستفسرًا عن سبب استمرار إمكانية الوصول إلى تطبيق تيليجرام الذي يُولّد الصور الإشكالية التي تُنشر عبر الذكاء الاصطناعي بشكل علني. تم حذفها بعد أيام.