وورلد برس عربي logo

مخاوف من خلط ميوز للمحادثات وتسريب البيانات

موظفون في Meta يقولون إن وكيل الذكاء الاصطناعي Muse عرض معلومات تخص مستخدمين آخرين، من أرصدة مصرفية إلى رسائل خاصة. خلل يثير أسئلة جدية حول الخصوصية وأذونات الوصول إلى التطبيقات والحسابات.

شخصية وكيل الذكاء الاصطناعي Muse ترتدي سماعات وتعمل على حاسوب محمول، في سياق مخاوف تسرب البيانات بين حسابات المستخدمين.
حقوق الصورة: Meta
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

هل يمكن لوكيل ذكاء اصطناعي أن يعرض على مستخدم معلومات تخصّ شخصاً آخر؟ هذا ما قاله موظفون في Meta عن Muse، وكيل الذكاء الاصطناعي الذي أطلقته الشركة في سبتمبر، إذ أثاروا مخاوف من أنه يخلط المحادثات بين الحسابات ويكشف بيانات خاصة بالمستخدمين. وبحسب منشورات داخلية في الشركة اطّلعت عليها Reuters، يحدث ذلك في تطبيق تجاوز عدد تنزيلاته 10 ملايين.

ماذا ظهر للموظفين على شاشاتهم؟

قال موظفون إن Muse عرض عليهم طلبات رعاية أطفال لم يقدّموها قط، ونصائح مهنية لم يطلبوها، وطلبات شراء منتجات لم يجروها. وقالوا أيضاً إنه أظهر أرصدة مصرفية تعود إلى أشخاص آخرين.

وروى أحد الموظفين أن Muse أضاف رسالة إلى محادثة كانت مخصّصة للطقس والمدّ والجزر، وفيها أرصدة حسابين مصرفيين. وجاء في الرسالة: «بالمناسبة، لديك تحديثان مصرفيان: رصيدك في Capital One هو 2722.58 دولاراً، ورصيدك في Charles Schwab هو 5899.57 دولاراً».

وفي واقعة أخرى، تلقّت موظفة كانت تستخدم Muse على هاتفها الشخصي تذكيراً بالردّ على أختها عبر Signal، وهو تطبيق مراسلة شائع يعتمد التشفير من طرف إلى طرف.

وعلّق أحد الموظفين على ما جرى بقوله: «يبدو هذا انتهاكاً بالغاً للخصوصية. أنا متأكد أنني لم أمنحه صلاحية الوصول إلى تطبيقات أخرى، ولا أتذكّر أنه طُلب مني ذلك».

لماذا يهمّ هذا مستخدم الوكلاء الذكية؟

الفرق بين وكيل ذكاء اصطناعي وروبوت محادثة عادي هو أن الوكيل يعمل نيابة عن المستخدم داخل حساباته وتطبيقاته. وتبرز هنا الشكوى التي تكرّرت في كلام الموظفين: أن تظهر معلومات من حساب في حساب آخر، أو من تطبيق في تطبيق غير مرتبط به، من دون أن يتذكّر المستخدم أنه منح إذناً بذلك. فالأمر لا يقتصر على رسالة في غير موضعها، بل يمسّ أرصدة مصرفية وطلبات شراء ومراسلات عائلية.

وتزداد حساسية الواقعة لأن من رصدوها موظفون في الشركة التي طوّرت المنتج، وقد كتبوا عنها في منشورات داخلية. أما Muse نفسه فهو من أسرع التطبيقات نمواً على الإطلاق، ما يعني أن أي خلل في فصل البيانات بين الحسابات قد يمسّ عدداً كبيراً من المستخدمين. وتفصّل تقرير Reuters حول سلامة Muse هذه الهفوات المبكرة.

ويبقى على كل من يفكر في تثبيت وكيل ذكي أن ينظر في الأذونات التي يطلبها، وفي التطبيقات والحسابات التي يسمح له بالاطّلاع عليها، لأن كل ربط جديد يوسّع ما قد يظهر في المكان الخطأ.

أخبار ذات صلة

Loading...
ساتيا ناديلا يتحدث في قمة DealBook Summit محذراً من ثغرات البنية التحتية المتصلة بالإنترنت وهجمات الذكاء الاصطناعي السيبرانية.

ناديلا: جزء كبير من البنية التحتية الحيوية "لا يمكن ترقيعه"

حذّر الرئيس التنفيذي لمايكروسوفت ساتيا ناديلا من أن جزءاً كبيراً من البنية التحتية الحيوية المتصلة بالإنترنت في الولايات المتحدة يضم ثغرات لا يمكن ترقيعها، فيما يسهّل الذكاء الاصطناعي تنفيذ هجمات سيبرانية متطورة.
تكنولوجيا
Loading...
شعار تطبيق Claude التابع لـAnthropic، الشركة التي سعّرت طرحها العام الأولي عند 83 دولاراً للسهم.

Anthropic تسعّر طرحها العام عند 83 دولاراً للسهم، فوق النطاق المتوقع

سعّرت Anthropic طرحها العام الأولي عند 83 دولاراً للسهم، وفق ما أُفيد، متجاوزة النطاق الأولي، لتبلغ قيمتها السوقية 1.5 تريليون دولار، وتبدأ التداول الخميس في ناسداك.
تكنولوجيا
Loading...
بالمر لاكي يتحدث في قمة DealBook محذراً من الهجمات السيبرانية المدعومة بالذكاء الاصطناعي.

Palmer Luckey يحذّر: الهجمات السيبرانية بالذكاء الاصطناعي تتفوّق على الدفاعات

حذّر Palmer Luckey من أن الهجمات السيبرانية المدعومة بالذكاء الاصطناعي تتقدم أسرع من قدرة الأنظمة الدفاعية القديمة على مواكبتها، بعد موجة أعطال تقنية شهدتها الولايات المتحدة مؤخراً.
تكنولوجيا
Loading...
شاشتان تعرضان لقطات من Grand Theft Auto VI، اللعبة المرتبطة بتسريبات القرصان Arion Kurtaj.

قراصنة بريطانيون يواجهون السجن في قضية تسريب GTA 6 وسرقات عملات مشفّرة

حكمت محكمة أمريكية على Tyler Buchanan بالسجن ست سنوات بتهمة سرقة ما لا يقل عن 11 مليون دولار من العملات المشفّرة، فيما أقرّ أريون كورتاج بعدة هجمات وينتظر محاكمة علنية في بريطانيا.
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمعلومصحةتسلية