ماليزيا وإندونيسيا تحظران روبوت غروك للذكاء الاصطناعي

ماليزيا وإندونيسيا تحظران تطبيق "غروك"

أصبحت ماليزيا وإندونيسيا أول دولتين تحجبان "غروك"، وهو روبوت الدردشة الآلي للذكاء الاصطناعي الذي طورته شركة xAI المملوكة لإيلون ماسك بعد أن قالت السلطات إنه يُساء استخدامه لتوليد صور جنسية صريحة وغير متوافق عليها.

القلق العالمي من أدوات الذكاء الاصطناعي التوليدية

تعكس هذه التحركات القلق العالمي المتزايد بشأن أدوات الذكاء الاصطناعي التوليدية التي يمكنها إنتاج صور وصوت ونصوص واقعية، بينما تفشل الضمانات الحالية في منع إساءة استخدامها. وقد تعرض روبوت الدردشة Grok، الذي يمكن الوصول إليه من خلال منصة التواصل الاجتماعي X الخاصة بـ Musk، لانتقادات بسبب توليد صور تم التلاعب بها، بما في ذلك صور لنساء يرتدين البكيني أو في أوضاع جنسية صريحة، بالإضافة إلى صور تتضمن أطفالاً.

الإجراءات الحكومية ضد المحتوى الإباحي المزيف

وقال المنظمون في الدولتين الواقعتين في جنوب شرق آسيا إن الضوابط الحالية لا تمنع إنشاء وانتشار المحتوى الإباحي المزيف، لا سيما الذي يشمل النساء والقُصّر. وحظرت الحكومة الإندونيسية الوصول إلى موقع Grok مؤقتًا يوم السبت، وتبعتها ماليزيا يوم الأحد.

تصريحات وزير الاتصالات في إندونيسيا

وقال وزير الاتصالات والشؤون الرقمية في إندونيسيا مويتيا حفيظ في بيان يوم السبت: "ترى الحكومة أن المحتوى الجنسي المزيف غير التوافقي يشكل انتهاكًا خطيرًا لحقوق الإنسان وكرامة وسلامة المواطنين في الفضاء الرقمي".

أهداف الحظر لحماية المجتمع

وقالت الوزارة إن هذا الإجراء يهدف إلى حماية النساء والأطفال والمجتمع ككل من المحتوى الإباحي المزيف الذي يتم إنشاؤه باستخدام الذكاء الاصطناعي.

نتائج التحقيقات الأولية حول "غروك"

وقال ألكسندر صابر، المدير العام للإشراف على الفضاء الرقمي، في بيان منفصل، إن النتائج الأولية أظهرت أن Grok يفتقر إلى ضمانات فعالة لمنع المستخدمين من إنشاء وتوزيع محتوى إباحي يستند إلى صور حقيقية لسكان إندونيسيا. وقال إن مثل هذه الممارسات تخاطر بانتهاك الخصوصية وحقوق الصورة عندما يتم التلاعب بالصور أو مشاركتها دون موافقة، مما يتسبب في ضرر نفسي واجتماعي وسمعة.

الإجراءات التنظيمية في ماليزيا

وفي كوالالمبور، أمرت لجنة الاتصالات والوسائط المتعددة الماليزية بفرض قيود مؤقتة على تطبيق Grok يوم الأحد بعد ما قالت إنه "سوء استخدام متكرر" للأداة لتوليد صور فاحشة وصريحة جنسياً وغير متوافق عليها بما في ذلك محتوى يشمل النساء والقاصرين.

استجابة الشركات للضغوط التنظيمية

وقالت الهيئة التنظيمية إن الإشعارات التي صدرت هذا الشهر إلى شركتي X Corp و xAI للمطالبة بضمانات أقوى استجابت لها الهيئة التي اعتمدت بشكل أساسي على آليات إبلاغ المستخدمين.

التدابير الوقائية المتخذة

وقالت الهيئة: "فُرض هذا التقييد كإجراء وقائي ومتناسب بينما تستمر العمليات القانونية والتنظيمية"، مضيفةً أن الوصول سيظل محظورًا حتى يتم وضع ضمانات فعالة.

إطلاق "غروك" وميزاته الجديدة

تم إطلاق Grok في عام 2023، وهو مجاني للاستخدام على X. يمكن للمستخدمين طرح الأسئلة على منصة التواصل الاجتماعي ووضع علامات على المنشورات التي قاموا بإنشائها مباشرةً أو الردود على منشورات المستخدمين الآخرين. في الصيف الماضي أضافت الشركة ميزة مولد الصور، Grok Imagine، التي تضمنت ما يسمى "الوضع الحار" الذي يمكنه توليد محتوى للبالغين.

تأتي قيود جنوب شرق آسيا وسط تدقيق متزايد على Grok في أماكن أخرى، بما في ذلك في الاتحاد الأوروبي وبريطانيا والهند وفرنسا. وقصر Grok الأسبوع الماضي توليد الصور وتحريرها على المستخدمين الذين يدفعون المال بعد رد فعل عالمي عنيف على التزييف الجنسي للأشخاص، لكن المنتقدين يقولون إنه لم يعالج المشكلة بشكل كامل.