مخاوف من خلط ميوز للمحادثات وتسريب البيانات
موظفون في Meta يقولون إن وكيل الذكاء الاصطناعي Muse عرض معلومات تخص مستخدمين آخرين، من أرصدة مصرفية إلى رسائل خاصة. خلل يثير أسئلة جدية حول الخصوصية وأذونات الوصول إلى التطبيقات والحسابات.

هل يمكن لوكيل ذكاء اصطناعي أن يعرض على مستخدم معلومات تخصّ شخصاً آخر؟ هذا ما قاله موظفون في Meta عن Muse، وكيل الذكاء الاصطناعي الذي أطلقته الشركة في سبتمبر، إذ أثاروا مخاوف من أنه يخلط المحادثات بين الحسابات ويكشف بيانات خاصة بالمستخدمين. وبحسب منشورات داخلية في الشركة اطّلعت عليها Reuters، يحدث ذلك في تطبيق تجاوز عدد تنزيلاته 10 ملايين.
ماذا ظهر للموظفين على شاشاتهم؟
قال موظفون إن Muse عرض عليهم طلبات رعاية أطفال لم يقدّموها قط، ونصائح مهنية لم يطلبوها، وطلبات شراء منتجات لم يجروها. وقالوا أيضاً إنه أظهر أرصدة مصرفية تعود إلى أشخاص آخرين.
وروى أحد الموظفين أن Muse أضاف رسالة إلى محادثة كانت مخصّصة للطقس والمدّ والجزر، وفيها أرصدة حسابين مصرفيين. وجاء في الرسالة: «بالمناسبة، لديك تحديثان مصرفيان: رصيدك في Capital One هو 2722.58 دولاراً، ورصيدك في Charles Schwab هو 5899.57 دولاراً».
وفي واقعة أخرى، تلقّت موظفة كانت تستخدم Muse على هاتفها الشخصي تذكيراً بالردّ على أختها عبر Signal، وهو تطبيق مراسلة شائع يعتمد التشفير من طرف إلى طرف.
وعلّق أحد الموظفين على ما جرى بقوله: «يبدو هذا انتهاكاً بالغاً للخصوصية. أنا متأكد أنني لم أمنحه صلاحية الوصول إلى تطبيقات أخرى، ولا أتذكّر أنه طُلب مني ذلك».
لماذا يهمّ هذا مستخدم الوكلاء الذكية؟
الفرق بين وكيل ذكاء اصطناعي وروبوت محادثة عادي هو أن الوكيل يعمل نيابة عن المستخدم داخل حساباته وتطبيقاته. وتبرز هنا الشكوى التي تكرّرت في كلام الموظفين: أن تظهر معلومات من حساب في حساب آخر، أو من تطبيق في تطبيق غير مرتبط به، من دون أن يتذكّر المستخدم أنه منح إذناً بذلك. فالأمر لا يقتصر على رسالة في غير موضعها، بل يمسّ أرصدة مصرفية وطلبات شراء ومراسلات عائلية.
وتزداد حساسية الواقعة لأن من رصدوها موظفون في الشركة التي طوّرت المنتج، وقد كتبوا عنها في منشورات داخلية. أما Muse نفسه فهو من أسرع التطبيقات نمواً على الإطلاق، ما يعني أن أي خلل في فصل البيانات بين الحسابات قد يمسّ عدداً كبيراً من المستخدمين. وتفصّل تقرير Reuters حول سلامة Muse هذه الهفوات المبكرة.
ويبقى على كل من يفكر في تثبيت وكيل ذكي أن ينظر في الأذونات التي يطلبها، وفي التطبيقات والحسابات التي يسمح له بالاطّلاع عليها، لأن كل ربط جديد يوسّع ما قد يظهر في المكان الخطأ.
أخبار ذات صلة

ناديلا: جزء كبير من البنية التحتية الحيوية "لا يمكن ترقيعه"

Anthropic تسعّر طرحها العام عند 83 دولاراً للسهم، فوق النطاق المتوقع

Palmer Luckey يحذّر: الهجمات السيبرانية بالذكاء الاصطناعي تتفوّق على الدفاعات
