حذف ألفي رابط: تأثير مجموعة بيانات LAION

إزالة صور إساءة معاملة الأطفال من بيانات الذكاء الاصطناعي

قال باحثون في مجال الذكاء الاصطناعي يوم الجمعة إنهم حذفوا أكثر من ألفي رابط على شبكة الإنترنت لصور اعتداء جنسي على الأطفال مشتبه بها من مجموعة بيانات تُستخدم لتدريب أدوات الذكاء الاصطناعي الشهيرة لتوليد الصور.

مجموعة بيانات لايون LAION ودورها في الذكاء الاصطناعي

تعتبر مجموعة بيانات لايون LAION البحثية فهرسًا ضخمًا للصور والتعليقات التوضيحية على الإنترنت التي كانت مصدرًا لأدوات رائدة في مجال الذكاء الاصطناعي لتوليد الصور مثل Stable Diffusion و Midjourney.

تقرير مرصد ستانفورد للإنترنت حول الصور المسيئة

لكن تقريراً صدر العام الماضي عن مرصد ستانفورد للإنترنت وجد أنها تحتوي على روابط لصور جنسية صريحة للأطفال، مما ساهم في سهولة تمكن بعض أدوات الذكاء الاصطناعي من إنتاج صور مزيفة واقعية عميقة تصور الأطفال.

تحسينات مجموعة بيانات لايون LAION

وقد دفع تقرير ديسمبر هذا LAION، غير الربحية "شبكة الذكاء الاصطناعي المفتوحة على نطاق واسع"، إلى إزالة مجموعة بياناتها على الفور. وبعد مرور ثمانية أشهر، قالت لايون LAION في منشور على مدونة أنها عملت مع مجموعة مراقبة جامعة ستانفورد ومنظمات مكافحة إساءة الاستخدام في كندا والمملكة المتحدة لإصلاح المشكلة وإصدار مجموعة بيانات منقحة لأبحاث الذكاء الاصطناعي المستقبلية.

أهمية سحب النماذج الملوثة

وقد أثنى الباحث في جامعة ستانفورد ديفيد ثيل، مؤلف تقرير ديسمبر، على لايون LAION للتحسينات الكبيرة التي أدخلتها على هذه المجموعة، لكنه قال إن الخطوة التالية هي سحب "النماذج الملوثة" التي لا تزال قادرة على إنتاج صور إساءة معاملة الأطفال من التوزيع.

إزالة النماذج المسيئة من مستودع الذكاء الاصطناعي

إحدى الأدوات المستندة إلى LAION التي حددتها ستانفورد على أنها "النموذج الأكثر شيوعًا لتوليد الصور الصريحة" - وهي نسخة قديمة ومفلترة بشكل خفيف من Stable Diffusion - ظلت متاحة بسهولة حتى يوم الخميس، عندما قامت شركة Runway ML ومقرها نيويورك بإزالتها من مستودع نماذج الذكاء الاصطناعي Hugging Face. وقالت شركةرنواي Runway في بيان لها يوم الجمعة إن ذلك كان "إهمالًا مخططًا لنماذج البحث والرموز التي لم تتم صيانتها بشكل نشط".

التوجهات العالمية تجاه استخدام الذكاء الاصطناعي

تأتي النسخة التي تم تنظيفها من مجموعة بيانات لايون LAION في الوقت الذي تقوم فيه الحكومات في جميع أنحاء العالم بإلقاء نظرة فاحصة على كيفية استخدام بعض الأدوات التقنية في صنع أو توزيع صور غير قانونية للأطفال.

الدعاوى القضائية ضد مواقع إنشاء الصور غير القانونية

رفع المدعي العام لمدينة سان فرانسيسكو في وقت سابق من هذا الشهر دعوى قضائية تسعى لإغلاق مجموعة من المواقع الإلكترونية التي تتيح إنشاء صور عارية للنساء والفتيات مولدة بالذكاء الاصطناعي. إن التوزيع المزعوم لصور الاعتداء الجنسي على الأطفال على تطبيق المراسلة Telegram هو جزء مما دفع السلطات الفرنسية إلى توجيه اتهامات يوم الأربعاء ضد مؤسس المنصة ورئيسها التنفيذي بافل دوروف.

استجابة الباحثين لمشاكل الصور المسيئة

قال ديفيد إيفان هاريس، الباحث في جامعة كاليفورنيا في بيركلي الذي تواصل مؤخرًا مع "رنواي" مستفسرًا عن سبب استمرار إمكانية الوصول إلى تطبيق تيليجرام الذي يُولّد الصور الإشكالية التي تُنشر عبر الذكاء الاصطناعي بشكل علني. تم حذفها بعد أيام.