سان فرانسيسكو تتصدى للمواقع التي تنشر صورًا مزيفة للنساء والفتيات باستخدام تقنية الذكاء الاصطناعي

بعد مرور عام تقريبًا على الصور العارية التي التقطها الذكاء الاصطناعي لفتيات في مدرسة ثانوية في جنوب إسبانيا والتي أثارت غضب مجتمع في جنوب إسبانيا، حكمت محكمة الأحداث هذا الصيف على 15 من زميلاتهن بالسجن لمدة عام تحت المراقبة.

لكن أداة الذكاء الاصطناعي المستخدمة في إنشاء الصور المزيفة المؤذية لا تزال متاحة بسهولة على الإنترنت، حيث تعد بـ "تعرية أي صورة" يتم تحميلها على الموقع الإلكتروني في غضون ثوانٍ.

والآن تجري محاولة جديدة لإغلاق التطبيق وأمثاله في كاليفورنيا، حيث رفعت سان فرانسيسكو هذا الأسبوع دعوى قضائية هي الأولى من نوعها يقول الخبراء إنها قد تشكل سابقة لكنها ستواجه أيضاً العديد من العقبات.

قال ديفيد تشيو، المدعي العام المنتخب لمدينة سان فرانسيسكو الذي رفع الدعوى ضد مجموعة من المواقع الإلكترونية التي تحظى بزيارة واسعة النطاق والمرتبطة بكيانات في كاليفورنيا ونيو مكسيكو وإستونيا وصربيا والمملكة المتحدة وأماكن أخرى: "لقد استغل انتشار هذه الصور عددًا صادمًا من النساء والفتيات في جميع أنحاء العالم".

وقال في مقابلة مع وكالة أسوشيتد برس: "تُستخدم هذه الصور للتنمر على النساء والفتيات وإذلالهن وتهديدهن". "وقد كان تأثيرها على الضحايا مدمراً على سمعتهن وصحتهن العقلية وفقدانهن لاستقلاليتهن، وفي بعض الحالات، تسببت في بعض الحالات في دفع بعضهن إلى الانتحار."

تزعم الدعوى القضائية المرفوعة نيابةً عن سكان كاليفورنيا أن هذه الخدمات خرقت العديد من قوانين الولاية ضد الممارسات التجارية الاحتيالية والمواد الإباحية غير المتوافق عليها والاعتداء الجنسي على الأطفال. ولكن قد يكون من الصعب تحديد الجهة التي تدير هذه التطبيقات، التي لا تتوفر في متاجر تطبيقات الهواتف ولكن يمكن العثور عليها بسهولة على الإنترنت.

وبعد أن اتصلت وكالة أسوشييتد برس في أواخر العام الماضي، ادعت إحدى الخدمات عبر البريد الإلكتروني أن "مديرها التنفيذي مقيم ويتنقل في جميع أنحاء الولايات المتحدة الأمريكية" لكنها رفضت تقديم أي دليل أو الإجابة عن أسئلة أخرى. لم تذكر وكالة أسوشييتد برس أسماء التطبيقات المحددة التي تتم مقاضاتها من أجل عدم الترويج لها.

وقال تشيو: "هناك عدد من المواقع التي لا نعرف في هذه اللحظة بالضبط من هم هؤلاء المشغلين وأين يعملون من هذه المواقع، ولكن لدينا أدوات التحقيق وسلطة الاستدعاء للبحث في ذلك". "وسوف نستخدم بالتأكيد صلاحياتنا في سياق هذا التقاضي."

يتم استخدام العديد من هذه الأدوات لإنشاء صور مزيفة واقعية "تعري" لنساء بالغات يرتدين ملابسهنّ، بما في ذلك المشاهير، دون موافقتهن. لكنها ظهرت أيضًا في المدارس في جميع أنحاء العالم، من أستراليا إلى بيفرلي هيلز في كاليفورنيا، وعادةً ما يقوم الفتيان بإنشاء صور لزميلاتهم في الفصل الدراسي ثم يتم تداولها عبر وسائل التواصل الاجتماعي.

وفي واحدة من أولى الحالات التي حظيت بتغطية إعلامية واسعة في سبتمبر الماضي في مدينة ألميندراليخو بإسبانيا، قالت طبيبة ساعدت في لفت انتباه الرأي العام إلى هذه القضية بعد أن كانت ابنتها من بين الضحايا، إنها راضية عن شدة العقوبة التي يواجهها زملاؤهم بعد قرار المحكمة في وقت سابق من هذا الصيف.

وقالت الدكتورة مريم الأديب منديري في مقابلة أجريت معها يوم الجمعة: "ليست مسؤولية المجتمع والتعليم وأولياء الأمور والمدارس فحسب، بل هي أيضًا مسؤولية الشركات الرقمية العملاقة التي تستفيد من كل هذه القمامة".

وأشادت بتحرك سان فرانسيسكو لكنها قالت إن هناك حاجة إلى بذل المزيد من الجهود، بما في ذلك من الشركات الكبرى مثل شركة ميتا بلاتفورمز التي تتخذ من كاليفورنيا مقرًا لها وشركة واتساب التابعة لها، والتي استُخدمت لتداول الصور في إسبانيا.

في حين سعت المدارس ووكالات إنفاذ القانون إلى معاقبة أولئك الذين يصنعون الصور المزيفة ويتشاركونها، واجهت السلطات صعوبة في التعامل مع الأدوات نفسها.

في يناير/كانون الثاني، أوضح الفرع التنفيذي للاتحاد الأوروبي في رسالة إلى عضو إسباني في البرلمان الأوروبي أن التطبيق المستخدم في الميندراليخو "لا يبدو" أنه يندرج تحت القواعد الجديدة الشاملة للتكتل لتعزيز السلامة على الإنترنت لأنه ليس منصة كبيرة بما فيه الكفاية.

ستتابع المنظمات التي تتابع نمو مواد الاعتداء الجنسي على الأطفال التي يولدها الذكاء الاصطناعي عن كثب قضية سان فرانسيسكو.

وقالت إيميلي سليفر، مديرة السياسات في منظمة ثورن، وهي منظمة تعمل على مكافحة الاستغلال الجنسي للأطفال، إن الدعوى القضائية "لديها القدرة على وضع سابقة قانونية في هذا المجال".

وقالت باحثة في جامعة ستانفورد إنه نظرًا لوجود الكثير من المتهمين خارج الولايات المتحدة، سيكون من الصعب تقديمهم للعدالة.

وقالت ريانا بفيفركورن من جامعة ستانفورد إن تشيو "أمامها معركة شاقة في هذه القضية، لكنها قد تكون قادرة على إيقاف بعض المواقع عن العمل إذا تجاهل المدعى عليهم الذين يديرونها الدعوى القضائية".

وقالت إن هذا يمكن أن يحدث إذا فازت المدينة افتراضيًا في غيابهم وحصلت على أوامر تؤثر على مسجلي أسماء النطاقات ومضيفي المواقع ومعالجي الدفع "من شأنها أن تغلق تلك المواقع فعليًا حتى لو لم يظهر أصحابها في الدعوى القضائية".