وورلد برس عربي logo
إنذار كاذب في الخطوط الجوية الأمريكية بعد اعتقاد الطيارين بأن شخصًا ما يحاول اقتحام قمرة القيادةتسوية بين "Cards Against Humanity" و"سبيس إكس" التابعة لإيلون ماسك بشأن التعدي في تكساسالبيت الأبيض يبدأ هدم جزء من الجناح الشرقي لبناء قاعة ترامبالديمقراطيون في جورجيا يسعون لتحقيق انتصارات في انتخابات هيئة تنظيم المرافق، بينما يستأنف الحزب الجمهوري ولاء الأعضاءامرأة من مينيسوتا قامت بإدلاء صوت والدتها المتوفاة لصالح ترامب في 2024 يجب أن تكتب مقالًا عن التصويتنيبويسا بافكوفيتش، الجنرال الصربي المدان من قبل الأمم المتحدة بجرائم حرب في كوسوفو، يتوفى عن عمر يناهز 79 عامًاولي العهد السعودي يزور الولايات المتحدة بحثاً عن اتفاق دفاعي مماثل لاتفاق قطرالديمقراطي من ولاية ماين يسعى لإزاحة سوزان كولينز ويستمر في السباق بعد اكتشاف منشورات على ريديتترامب يدعم ضابط البحرية المتقاعد في سعيه لإزاحة النائب ماسي من كنتاكي في الانتخابات التمهيدية الجمهوريةلماذا لا يزال هناك حاجة إلى محكمة غزة بعد وقف إطلاق النار الذي أعلنه ترامب
إنذار كاذب في الخطوط الجوية الأمريكية بعد اعتقاد الطيارين بأن شخصًا ما يحاول اقتحام قمرة القيادةتسوية بين "Cards Against Humanity" و"سبيس إكس" التابعة لإيلون ماسك بشأن التعدي في تكساسالبيت الأبيض يبدأ هدم جزء من الجناح الشرقي لبناء قاعة ترامبالديمقراطيون في جورجيا يسعون لتحقيق انتصارات في انتخابات هيئة تنظيم المرافق، بينما يستأنف الحزب الجمهوري ولاء الأعضاءامرأة من مينيسوتا قامت بإدلاء صوت والدتها المتوفاة لصالح ترامب في 2024 يجب أن تكتب مقالًا عن التصويتنيبويسا بافكوفيتش، الجنرال الصربي المدان من قبل الأمم المتحدة بجرائم حرب في كوسوفو، يتوفى عن عمر يناهز 79 عامًاولي العهد السعودي يزور الولايات المتحدة بحثاً عن اتفاق دفاعي مماثل لاتفاق قطرالديمقراطي من ولاية ماين يسعى لإزاحة سوزان كولينز ويستمر في السباق بعد اكتشاف منشورات على ريديتترامب يدعم ضابط البحرية المتقاعد في سعيه لإزاحة النائب ماسي من كنتاكي في الانتخابات التمهيدية الجمهوريةلماذا لا يزال هناك حاجة إلى محكمة غزة بعد وقف إطلاق النار الذي أعلنه ترامب

جهاز الدردشة الذكي في نيويورك: مشاكل وتحذيرات

تقرير: دردشة الذكاء الاصطناعي في نيويورك توجه بنصائح غريبة لأصحاب الشركات الصغيرة وتعرض للخطأ. تحذير من مخاطر الاعتماد على الذكاء الاصطناعي بدون حواجز كافية. #تكنولوجيا

عمدة نيويورك إيريك آدمز يتحدث خلال مؤتمر صحفي، مع العلم الأمريكي خلفه، دفاعًا عن برنامج الدردشة الآلي للمدينة.
تعرّض عمدة مدينة نيويورك إريك آدامز لانتقادات خلال مؤتمر صحفي في قاعة المدينة، في 12 ديسمبر 2023، بسبب روبوت محادثة مدعوم بالذكاء الاصطناعي تم تصميمه لمساعدة أصحاب الأعمال الصغيرة في المدينة، حيث قدم ردودًا غير متوقعة.
شارك الخبر:
FacebookTwitterLinkedInEmail

انتقادات لتطبيق المحادثة الذكي في نيويورك

نيويورك (أسوشيتيد برس) - يتعرض برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي الذي تم إنشاؤه من قبل مدينة نيويورك لمساعدة أصحاب الشركات الصغيرة لانتقادات، بسبب توجيه نصائح غريبة تضلل السياسات المحلية وتنصح الشركات بانتهاك القانون.

قرار المدينة باستمرار استخدام التطبيق

ومع ذلك، بعد أيام من تقارير المشاكل التي نشرت لأول مرة الأسبوع الماضي من قبل موقع أخبار التكنولوجيا The Markup، قررت المدينة ترك الأداة على موقعها الرسمي على الإنترنت. وقد دافع العمدة إيريك آدمز عن هذا القرار هذا الأسبوع حتى مع اعترافه بأن إجابات الدردشة كانت "خاطئة في بعض المجالات".

وظيفة التطبيق وأهدافه

تم إطلاق الدردشة في أكتوبر كـ "متجر واحد" لأصحاب الأعمال، وتقدم الدردشة ردود نصية تم إنشاؤها بخوارزميات على أسئلة حول التنقل في المتاهات البيروقراطية في المدينة.

شاهد ايضاً: إدارة ترامب تلغي التوجيهات القديمة بشأن "أنظمة تقليل الحارات" لسلامة المرور

تتضمن تنصيصات تحذيرية تقول إنها قد "تنتج أحيانًا معلومات غير صحيحة أو ضارة أو محايدة" وتحذر بأن إجاباتها ليست نصائح قانونية.

مخاطر الاعتماد على الذكاء الاصطناعي

وتواصل تقديم توجيهات خاطئة، ما يثير قلق الخبراء الذين يقولون إن النظام المعطل يسلط الضوء على مخاطر اعتماد الحكومات على أنظمة الذكاء الاصطناعي بدون الحواجز الكافية.

أخطاء التطبيق في تقديم النصائح القانونية

"إنهم يطرحون برمجيات غير مُثبتة بدون رقيب"، قالت جوليا ستويانوفيتش، أستاذة علوم الحاسوب ومديرة مركز الذكاء الصناعي المسؤول في جامعة نيويورك. "من الواضح أنهم ليس لديهم أي نية للقيام بما هو مسؤول".

شاهد ايضاً: القاضي يدرس طلب حجب سجلات التحقيق في وفاة جين هاكمان وزوجته

ولدى الرد على الأسئلة يوم الأربعاء، اقترحت الدردشة بشكل خاطئ أنه من المشروع قانونيًا لصاحب عمل أن يطرد عامل يشتكي من التحرش الجنسي، أو لا يكشف عن الحمل، أو يرفض قص شعره المجعد. متناقضة مع مبادرتي المدينة البارزتين للنفايات، ادعت أن الشركات يمكنها وضع نفاياتها في أكياس قمامة سوداء وأنها ليست مطالبة بالتسميد.

حالات غريبة من ردود التطبيق

في بعض الأحيان، تحولت إجابات الدردشة إلى السخيفة. وعندما سُئل عما إذا كان يمكن لمطعم أن يقدم جبنة عض عليها من قبل جرذ، أجاب: "نعم، لا يزال بإمكانك تقديم الجبن للعملاء إذا كان قد تعرض لعض الجرذ"، قبل أن تضيف أنه من المهم تقييم "مدى الضرر الذي تسببه الجرذ" وأن "يتم إبلاغ العملاء عن الوضع".

ردود الفعل من الشركات المطورة

وقال متحدث باسم مايكروسوفت، التي تعمل على تشغيل الدردشة من خلال خدماتها Azure AI، إن الشركة كانت تعمل مع موظفي المدينة "لتحسين الخدمة وضمان أن النتائج دقيقة ومدعومة بوثائق المدينة الرسمية".

تحسين الخدمة وضمان الدقة

شاهد ايضاً: نظرة على عمل السجون

في مؤتمر صحفي يوم الثلاثاء، اقترح آدمز، الديمقراطي، أن السماح للمستخدمين بالعثور على المشاكل هو جزء من تصحيح العيوب في التكنولوجيا الجديدة.

"كل من يعرف التكنولوجيا يعلم أن هذه هي الطريقة التي يتم بها"، قال. "إن الذين يخافون فقط هم الذين يجلسون ويقولون: 'أوه، لا يعمل بالطريقة التي نريد، الآن يجب أن نهرب منه تمامًا'. أنا لا أعيش بهذه الطريقة".

واعتبرت ستويانوفيتش هذا النهج "متهورًا وغير مسؤول".

المخاوف الأكاديمية حول نماذج اللغة

شاهد ايضاً: وزارة العدل وعمدة نيويورك آدامز يواجهان تدقيق القاضي في سعيهما لإسقاط التهم الجنائية

أعرب العلماء منذ فترة طويلة عن مخاوفهم بشأن عيوب هذه الأنواع من النماذج اللغوية الكبيرة، التي تتمرن على كميات هائلة من النصوص المستمدة من الإنترنت وتميل إلى إخراج إجابات غير دقيقة وغير منطقية.

ولكن مع نجاح ChatGPT وغيرها من الدردشات الآلية التي جذبت الاهتمام العام، قامت الشركات الخاصة بإطلاق منتجاتها الخاصة بنتائج متباينة. في وقت سابق من هذا الشهر، أمرت المحكمة شركة الطيران الكندية بإعادة مبلغ مالي لعميل بعد أن أخطأ برنامج الدردشة الآلي الخاص بالشركة في صياغة سياسة استرداد الأموال. كما واجهت كل من TurboTax و H&R Block انتقادات مؤخرًا بسبب استخدام دردشات آلية تقدم نصائح سيئة لإعداد الضرائب.

تأثير النماذج اللغوية على الثقة العامة

كتب جيفن ويست، أستاذ في جامعة واشنطن وشريك مؤسس في مركز للجمهور المستنير، أن الرهانات مرتفعة بشكل خاص عندما تُعزز النماذج من قبل القطاع العام.

شاهد ايضاً: نانسي ليفتينانت-كولون، أول امرأة سوداء في سلك التمريض بالجيش، قد توفيت

"هناك مستوى مختلف من الثقة التي تعطى للحكومة"، قال ويست. "يجب على المسئولين العامين أن ينظروا في الضرر الذي يمكن أن يلحقوه إذا ما اتبع شخص ما هذه النصيحة ووضع نفسه في مشكلة".

دروس للمدن الأخرى من تجربة نيويورك

يقول الخبراء إن المدن الأخرى التي تستخدم دردشات آلية عادةً ما تقيد نطاق إدخالاتها بمجموعة محدودة، مما يقلل من الإشاعة.

وقال تيد روس، رئيس معلومات لوس أنجلوس، إن المدينة حرصت على محتوى دردشاتها، التي لا تعتمد على نماذج لغة كبيرة.

أهمية المساءلة في استخدام الدردشات الآلية

شاهد ايضاً: لا نهاية تلوح في الأفق مع إضراب نادر لعناصر الأمن في مدينة بارك يعطل العمليات في أكبر منتجع تزلج في الولايات المتحدة

يجب أن تكون العيوب في دردشة نيويورك عبر الإنترنت قصة تحذيرية للمدن الأخرى، حسبما قال سوريش فينكاتاسوبرامانيان، مدير مركز المسؤولية التكنولوجية، إعادة الصورة، وإعادة التصميم في جامعة براون.

"يجب أن تجعل المدن تفكر في سبب استخدامها للدردشات الآلية، وما هي المشكلة التي تحاول حلها"، كتب في بريد إلكتروني. "إذا تم استخدام الدردشات الآلية لاستبدال شخص، فإنك تفقد المساءلة دون الحصول على أي شيء بدلًا عنه".

أخبار ذات صلة

Loading...
سحابة كثيفة من الدخان تتصاعد من حريق غابات في نبراسكا، مع وجود برج اتصالات في المقدمة، تعكس تأثير الظروف الجافة والرياح العاصفة.

حرائق الغابات تلتهم آلاف الأفدنة في منطقة ريفية وعرة في نبراسكا

في قلب نبراسكا، يشتعل حريق غابات ضخم، حيث التهم أكثر من 6600 فدان، مما دفع مئات رجال الإطفاء إلى العمل بلا كلل لاحتوائه. مع تزايد المخاوف من تهديد المباني القريبة، تابعوا معنا تفاصيل هذا الحريق المدمر وكيفية التصدي له.
Loading...
مبنى المحكمة الفيدرالية في الإسكندرية بولاية فيرجينيا، حيث تناقش القاضية برينكيما سرية مذكرة التحقيق في تدخل مصر في حملة ترامب.

جزء من مذكرة تفويض التحقيق في تدخل الانتخابات يبقى سريًا. قاضي يسعى لمعرفة السبب

تحت ضغط قاضٍ أمريكي، تتجه الأنظار نحو الحكومة لتفسير أسباب بقاء جزء من مذكرة مولر سريًا بعد سبع سنوات، حيث تشير الأدلة إلى مزاعم عن تقديم مصر 10 ملايين دولار لحملة ترامب. هل ستكشف الحكومة عن المعلومات المثيرة؟ تابعوا التفاصيل.
Loading...
حطام غواصة تيتان المغمورة في قاع المحيط الأطلسي، يظهر الأضرار الجسيمة التي تعرضت لها قبل الكارثة.

هل تم تجاهل علامات التحذير؟ معلومات هامة حول شهادة هذا الأسبوع بشأن كارثة غواصة "تيتان"

في عالم الغوص العميق، حيث تلتقي الأحلام بالمخاطر، تكشف الشهادات حول كارثة تيتان عن حقائق مقلقة. من تجاهل علامات التحذير إلى مشكلات ميكانيكية، يبدو أن السلامة كانت آخر ما يشغل بال الشركة. هل ستتغير الأمور بعد هذه الكارثة؟ تابعوا التفاصيل المثيرة.
Loading...
تظهر الصورة إريك آدامز، عمدة نيويورك، وشينا رايت، نائبة العمدة الأولى، خلال مؤتمر صحفي، مع العلم الأمريكي خلفهما، في سياق تحقيقات فدرالية.

المحققون الفيدراليون يصادرون الهواتف من رئيس شرطة نيويورك و 4 نواب رئيس بلدية

تحت ضغوط التحقيقات الفيدرالية، تتكشف أسرار مثيرة حول إدارة عمدة نيويورك إريك آدامز، حيث صودرت هواتف كبار المسؤولين في المدينة. ما الذي يخفيه هؤلاء المسؤولون؟ تابعوا تفاصيل هذه القصة المثيرة لتكتشفوا المزيد عن الأبعاد الخفية لهذا التحقيق.
الرئيسيةأخبارسياسةأعمالرياضةالعالمعلومصحةتسلية