تحديات الذكاء الاصطناعي في زمن التحولات السياسية

تحديات التحيز في الذكاء الاصطناعي

بعد تراجعها عن برامج التنوع والمساواة والشمول في مكان العمل، قد تواجه شركات التكنولوجيا الآن حسابًا ثانيًا بشأن عملها في مجال التنوع والمساواة والشمول في منتجات الذكاء الاصطناعي.

تأثير السياسة على تطوير الذكاء الاصطناعي

في البيت الأبيض والكونغرس الذي يقوده الجمهوريون، حلّ "الذكاء الاصطناعي المستيقظ" محل التمييز الخوارزمي الضار كمشكلة تحتاج إلى إصلاح. أصبحت الجهود السابقة "لتعزيز المساواة" في تطوير الذكاء الاصطناعي والحد من إنتاج "مخرجات ضارة ومتحيزة" هدفاً للتحقيق، وفقاً لمذكرات الاستدعاء التي أرسلتها اللجنة القضائية في مجلس النواب الشهر الماضي إلى أمازون وجوجل وميتا ومايكروسوفت وأوبن إيه آي و 10 شركات تقنية أخرى.

وقد حذف فرع وضع المعايير في وزارة التجارة الأمريكية الإشارات إلى عدالة الذكاء الاصطناعي والسلامة و"الذكاء الاصطناعي المسؤول" في ندائه للتعاون مع الباحثين الخارجيين. وبدلاً من ذلك، فإنها توجه العلماء للتركيز على "الحد من التحيز الأيديولوجي" بطريقة "تتيح ازدهار الإنسان والقدرة التنافسية الاقتصادية"، وفقاً لنسخة من الوثيقة التي حصلت عليها وكالة أسوشيتد برس.

من بعض النواحي، اعتاد العاملون في مجال التكنولوجيا على الأولويات التي تحركها واشنطن والتي تؤثر على عملهم.

مخاوف الخبراء بشأن التحيز

لكن التحول الأخير أثار مخاوف بين الخبراء في هذا المجال، بما في ذلك عالم الاجتماع بجامعة هارفارد إليس مونك، الذي تواصلت معه شركة جوجل منذ عدة سنوات للمساعدة في جعل منتجاتها للذكاء الاصطناعي أكثر شمولاً.

في ذلك الوقت، كانت صناعة التكنولوجيا تعرف بالفعل أن لديها مشكلة في فرع الذكاء الاصطناعي الذي يدرب الآلات على "رؤية" الصور وفهمها. كانت الرؤية الحاسوبية تحمل وعدًا تجاريًا كبيرًا ولكنها كانت تعكس التحيزات التاريخية الموجودة في تقنيات الكاميرات السابقة التي صورت السود والسمر في صورة غير محببة.

قال مونك، وهو باحث في التحيز اللوني، وهو شكل من أشكال التمييز على أساس لون بشرة الأشخاص وملامحهم الأخرى: "كان يظهر الأشخاص ذوي البشرة السمراء أو ذوي البشرة الداكنة في الصورة ونبدو سخيفين في بعض الأحيان".

اعتمدت Google مقياسًا للألوان ابتكره مونك لتحسين كيفية تصوير أدوات الذكاء الاصطناعي للصور الخاصة بها لتنوع ألوان بشرة البشر، لتحل محل معيار عمره عقود من الزمن صُمم في الأصل للأطباء الذين يعالجون مرضى الجلدية البيض.

وقال: "كان لدى المستهلكين بالتأكيد استجابة إيجابية كبيرة للتغييرات".

استجابة الشركات لتحديات التحيز

والآن يتساءل مونك عما إذا كانت هذه الجهود ستستمر في المستقبل. وعلى الرغم من أنه لا يعتقد أن مقياس مونك للون البشرة الذي ابتكره مهدد لأنه مدمج بالفعل في عشرات المنتجات في جوجل وأماكن أخرى - بما في ذلك الهواتف المزودة بكاميرات وألعاب الفيديو ومولدات الصور بالذكاء الاصطناعي - إلا أنه وباحثون آخرون قلقون من أن المزاج الجديد يثبط المبادرات المستقبلية والتمويل لجعل التكنولوجيا تعمل بشكل أفضل للجميع.

"تريد جوجل أن تعمل منتجاتها للجميع، في الهند والصين وأفريقيا وغيرها. هذا الجزء هو نوع من المناعة ضد DEI،" قال مونك. "ولكن هل يمكن أن ينخفض التمويل المستقبلي لهذه الأنواع من المشاريع؟ بالتأكيد، عندما يتغير المزاج السياسي وعندما يكون هناك الكثير من الضغط للوصول إلى السوق بسرعة كبيرة."

تأثير الإدارة السياسية على الذكاء الاصطناعي

لقد خفض ترامب المئات من منح التمويل في مجالات العلوم والتكنولوجيا والصحة التي تتطرق إلى مواضيع الذكاء الاصطناعي في مجال الذكاء الاصطناعي، لكن تأثيره على التطوير التجاري لروبوتات الدردشة الآلية وغيرها من منتجات الذكاء الاصطناعي غير مباشر أكثر. في التحقيق مع شركات الذكاء الاصطناعي، قال النائب الجمهوري جيم جوردان، رئيس اللجنة القضائية، إنه يريد معرفة ما إذا كانت إدارة الرئيس السابق جو بايدن "أجبرتهم أو تواطأت معهم" لفرض رقابة على الخطاب القانوني.

تصريحات المسؤولين حول التحيز

قال مايكل كراتسيوس، مدير مكتب سياسة العلوم والتكنولوجيا في البيت الأبيض، في حدث أقيم في تكساس هذا الشهر، إن سياسات بايدن في مجال الذكاء الاصطناعي "تعزز الانقسامات الاجتماعية وإعادة التوزيع باسم العدالة".

ورفضت إدارة ترامب إتاحة كراتسيوس لإجراء مقابلة معه، لكنها اقتبست عدة أمثلة على ما قصده. كان أحدها عبارة من استراتيجية أبحاث الذكاء الاصطناعي في عهد بايدن تقول "من دون ضوابط مناسبة، يمكن لأنظمة الذكاء الاصطناعي أن تضخم أو تديم أو تفاقم النتائج غير العادلة أو غير المرغوب فيها للأفراد والمجتمعات."

أبحاث تكشف عن أضرار التحيز

حتى قبل أن يتولى بايدن منصبه، كانت هناك مجموعة متزايدة من الأبحاث والحكايات الشخصية التي تجذب الانتباه إلى أضرار تحيز الذكاء الاصطناعي.

أظهرت إحدى الدراسات أن تكنولوجيا السيارات ذاتية القيادة تواجه صعوبة في اكتشاف المشاة ذوي البشرة الداكنة، مما يعرضهم لخطر الدهس بشكل أكبر. أظهرت دراسة أخرى تطلب من مولدات الذكاء الاصطناعي الشائعة لتحويل النص إلى صورة أن تقوم بتكوين صورة لجراح، فوجدت أنها أنتجت صورة رجل أبيض بنسبة 98% من المرات، وهي نسبة أعلى بكثير من النسب الحقيقية حتى في مجال يهيمن عليه الذكور بشدة.

أخطأت برامج مطابقة الوجوه لفتح الهواتف في التعرف على الوجوه الآسيوية. اعتقلت الشرطة في المدن الأمريكية رجالاً من ذوي البشرة السمراء بشكل خاطئ بناءً على تطابق خاطئ للوجوه. وقبل عقد من الزمن، قام تطبيق الصور الخاص بشركة Google بتصنيف صورة لشخصين أسودين في فئة مصنفة على أنها "غوريلا".

حتى أن علماء الحكومة في إدارة ترامب الأولى خلصوا في عام 2019 إلى أن تقنية التعرف على الوجه كان أداؤها غير متساوٍ على أساس العرق أو الجنس أو العمر.

استجابة صناعة التكنولوجيا للتحديات الجديدة

دفع انتخاب بايدن بعض شركات التكنولوجيا إلى تسريع تركيزها على عدالة الذكاء الاصطناعي. وأضاف وصول OpenAI's ChatGPT في عام 2022 أولويات جديدة، مما أدى إلى طفرة تجارية في تطبيقات الذكاء الاصطناعي الجديدة لتكوين المستندات وتوليد الصور، مما ضغط على شركات مثل Google لتخفيف حذرها واللحاق بالركب.

تجارب Google مع الذكاء الاصطناعي

ثم جاء بعد ذلك روبوت الدردشة الآلي Gemini للذكاء الاصطناعي من Google - وطرح منتج معيب العام الماضي من شأنه أن يجعله رمزًا لـ "الذكاء الاصطناعي المستيقظ" الذي كان يأمل المحافظون في كشفه. إذا تُركت أدوات الذكاء الاصطناعي التي تولد صورًا من موجه مكتوب على أجهزتها الخاصة، فإنها عرضة لإدامة الصور النمطية المتراكمة من جميع البيانات المرئية التي تم تدريبها عليها.

لم يكن برنامج جوجل مختلفًا، وعندما طُلب منه تصوير الأشخاص في مختلف المهن، كان من المرجح أن يفضل الوجوه ذات البشرة الفاتحة والرجال، وعندما تم اختيار النساء، كان يفضل النساء الأصغر سنًا، وفقًا للأبحاث العامة للشركة.

حاولت Google وضع حواجز تقنية للحد من هذه التباينات قبل طرح مولد صور Gemini للذكاء الاصطناعي قبل أكثر من عام بقليل. وانتهى الأمر بالتعويض المفرط عن التحيز، ووضع أشخاص ملونين ونساء في إعدادات تاريخية غير دقيقة، مثل الرد على طلب الآباء المؤسسين الأمريكيين بصور لرجال يرتدون ملابس القرن الثامن عشر وبدا أنهم من السود والآسيويين والأمريكيين الأصليين. وسرعان ما اعتذرت جوجل وسحبت الميزة مؤقتًا، لكن الغضب أصبح صرخة حشد تبناها اليمين السياسي.

ردود الفعل على التحيز في المنتجات

وقد استخدم نائب الرئيس التنفيذي لشركة Google، سوندار بيتشاي، الذي كان يجلس على مقربة من الرئيس التنفيذي لشركة Google، قمة الذكاء الاصطناعي في باريس في فبراير للتنديد بتقدم "الأجندات الاجتماعية اللا تاريخية الصريحة من خلال الذكاء الاصطناعي"، وذكر اللحظة التي كان فيها مولد صور الذكاء الاصطناعي في Google "يحاول أن يخبرنا أن جورج واشنطن كان أسود، أو أن فتيان أمريكا في الحرب العالمية الأولى كانوا في الواقع نساء".

أعلن فانس في التجمع "علينا أن نتذكر الدروس المستفادة من تلك اللحظة السخيفة". "وما نستخلصه منها هو أن إدارة ترامب ستضمن أن تكون أنظمة الذكاء الاصطناعي المطورة في أمريكا خالية من التحيز الأيديولوجي وألا تقيد حق مواطنينا في حرية التعبير."

آفاق التعاون في معالجة التحيز

قالت مستشارة بايدن العلمية السابقة التي حضرت ذلك الخطاب، ألوندرا نيلسون، إن تركيز إدارة ترامب الجديد على "التحيز الأيديولوجي" للذكاء الاصطناعي هو في بعض النواحي اعتراف بسنوات من العمل لمعالجة التحيز الخوارزمي الذي يمكن أن يؤثر على الإسكان والرهون العقارية والرعاية الصحية وجوانب أخرى من حياة الناس.

تحديات التعاون بين الإدارات

وقال نيلسون، المدير السابق بالنيابة لمكتب سياسات العلوم والتكنولوجيا في البيت الأبيض الذي شارك في تأليف مجموعة من المبادئ لحماية الحقوق المدنية والحريات المدنية في تطبيقات الذكاء الاصطناعي: "إن القول بأن أنظمة الذكاء الاصطناعي متحيزة أيديولوجيًا يعني في الأساس أنك تحدد مشكلة التحيز الخوارزمي وتعترف بها وتشعر بالقلق بشأنها، وهي المشكلة التي كان الكثيرون منا قلقين بشأنها منذ فترة طويلة".

لكن نيلسون لا يرى مجالًا كبيرًا للتعاون وسط تشويه سمعة مبادرات الذكاء الاصطناعي المنصفة.

وقالت: "أعتقد أنه في هذا المجال السياسي، للأسف، من غير المرجح أن يكون ذلك مستبعدًا تمامًا". "إن المشاكل التي تم تسميتها بشكل مختلف - التمييز الخوارزمي أو التحيز الخوارزمي من جهة، والتحيز الأيديولوجي من جهة أخرى - سوف ينظر إلينا للأسف على أنهما مشكلتان مختلفتان."