يمكن أن يسهم الذكاء الاصطناعي في توسيع نطاق الاستجابة الإنسانية، لكنه قد يحمل أيضًا عواقب سلبية كبيرة.

في الوقت الذي تتكيف فيه لجنة الإنقاذ الدولية مع الزيادات الهائلة في أعداد النازحين في السنوات الأخيرة، بحثت منظمة إغاثة اللاجئين عن الكفاءة حيثما أمكنها ذلك - بما في ذلك استخدام الذكاء الاصطناعي.

فمنذ عام 2015، استثمرت لجنة الإنقاذ الدولية في مشروع Signpost - وهو عبارة عن مجموعة من تطبيقات الهاتف المحمول وقنوات التواصل الاجتماعي التي تجيب على الأسئلة بلغات مختلفة للأشخاص الذين يعيشون في أوضاع خطرة. وقد وصل مشروع Signpost، الذي يضم العديد من المنظمات الأخرى، إلى 18 مليون شخص حتى الآن، لكن لجنة الإنقاذ الدولية تريد زيادة انتشارها بشكل كبير باستخدام أدوات الذكاء الاصطناعي.

وقد أدت النزاعات وحالات الطوارئ المناخية والصعوبات الاقتصادية إلى زيادة الطلب على المساعدات الإنسانية، حيث سيضطر أكثر من 117 مليون شخص إلى النزوح القسري في عام 2024، وفقًا لمفوضية الأمم المتحدة لشؤون اللاجئين. وبينما تواجه المنظمات الإنسانية المزيد من الأشخاص المحتاجين، فإنها تواجه أيضاً نقصاً هائلاً في التمويل. ويعزى التحول إلى تقنيات الذكاء الاصطناعي جزئياً إلى هذه الفجوة الهائلة بين الاحتياجات والموارد.

ولتحقيق هدفها المتمثل في الوصول إلى نصف عدد النازحين في غضون ثلاث سنوات، تقوم لجنة الإنقاذ الدولية ببناء شبكة من روبوتات الدردشة القائمة على الذكاء الاصطناعي التي يمكنها زيادة قدرة موظفيها العاملين في المجال الإنساني والمنظمات المحلية التي تخدم الناس مباشرةً من خلال مشروع Signpost. في الوقت الحالي، يعمل المشروع في السلفادور وكينيا واليونان وإيطاليا ويستجيب بـ 11 لغة. وهو يعتمد على مزيج من النماذج اللغوية الكبيرة من بعض أكبر شركات التكنولوجيا، بما في ذلك OpenAI و Anthropic و Google.

يستخدم نظام الرد الآلي للدردشة الآلية أيضاً برنامج خدمة العملاء من Zendesk ويتلقى دعماً آخر من جوجل وسيسكو سيستمز.

وبالإضافة إلى تطوير هذه الأدوات، ترغب لجنة الإنقاذ الدولية في توسيع نطاق هذه البنية التحتية لتشمل منظمات إنسانية أخرى غير ربحية دون أي تكلفة. ويأملون في إنشاء موارد تكنولوجية مشتركة يمكن للمنظمات الأقل تركيزاً على التكنولوجيا أن تستخدمها دون الحاجة إلى التفاوض مباشرة مع شركات التكنولوجيا أو إدارة مخاطر النشر.

تقول جيني أنان، رئيسة قسم الأبحاث والابتكار في لجنة الإنقاذ الدولية: "نحن نحاول أن نكون واضحين حقًا بشأن المخاوف المشروعة ولكننا نميل إلى التفاؤل بالفرص المتاحة وعدم السماح أيضًا بإهمال السكان الذين نخدمهم في الحلول التي لديها القدرة على التوسع بطريقة لا تستطيع من إنسان إلى إنسان أو غيرها من التكنولوجيا".

يتم تدقيق الردود والمعلومات التي تقدمها روبوتات الدردشة Signpost من قبل المنظمات المحلية لتكون محدثة ومراعية للظروف المحفوفة بالمخاطر التي قد يكون الناس فيها. أحد الأمثلة على الاستفسارات التي شاركتها لجنة الإنقاذ الدولية هو استفسار لامرأة من السلفادور تسافر عبر المكسيك إلى الولايات المتحدة مع ابنها وتبحث عن مأوى وعن خدمات لطفلها. يقدم الروبوت قائمة بمقدمي الخدمات في المنطقة التي تتواجد فيها.

يتم تصعيد الاستفسارات الأكثر تعقيدًا أو حساسية للبشر للرد عليها.

أهم جانب سلبي محتمل لهذه الأدوات هو أنها لا تعمل. على سبيل المثال، ماذا لو تغير الوضع على أرض الواقع ولم يكن روبوت الدردشة الآلي على علم بذلك؟ يمكن أن يقدم معلومات ليست خاطئة فحسب، بل قد تكون خطيرة.

والمشكلة الثانية هي أن هذه الأدوات يمكن أن تجمع مجموعة قيمة من البيانات حول الأشخاص المعرضين للخطر والتي يمكن أن تستهدفها الجهات المعادية. ماذا لو نجح أحد القراصنة في الوصول إلى البيانات التي تحتوي على معلومات شخصية أو إذا تمت مشاركة تلك البيانات عن طريق الخطأ مع حكومة قمعية؟

قالت لجنة الإنقاذ الدولية إنها اتفقت مع مزودي التكنولوجيا على ألا يتم تدريب أي من نماذج الذكاء الاصطناعي الخاصة بهم على البيانات التي تنتجها لجنة الإنقاذ الدولية أو المنظمات المحلية أو الأشخاص الذين يخدمونهم. لقد عملوا أيضًا على إخفاء هوية البيانات، بما في ذلك إزالة المعلومات الشخصية والموقع.

كجزء من مشروع Signpost.AI، تختبر لجنة الإنقاذ الدولية أيضًا أدوات مثل المعلم الآلي الرقمي والخرائط التي يمكنها دمج العديد من أنواع البيانات المختلفة للمساعدة في الاستعداد للأزمات والاستجابة لها.

قالت كاثي بيتروزينو، التي تعمل في شركة MITRE غير الهادفة للربح في مجال البحث والتطوير، إن أدوات الذكاء الاصطناعي تنطوي على إمكانات عالية، وأيضاً على مخاطر عالية. وقالت إنه لاستخدام هذه الأدوات بشكل مسؤول، يجب على المؤسسات أن تسأل نفسها: هل تعمل هذه التكنولوجيا؟ هل هي عادلة؟ هل البيانات والخصوصية محمية؟

كما أكدت على أن المنظمات بحاجة إلى جمع مجموعة من الأشخاص للمساعدة في إدارة وتصميم المبادرة - ليس فقط الخبراء التقنيين، بل الأشخاص الذين لديهم معرفة عميقة بالسياق والخبراء القانونيين وممثلين عن المجموعات التي ستستخدم الأدوات.

وقالت: "هناك العديد من النماذج الجيدة التي تقبع في مقبرة الذكاء الاصطناعي، لأنها لم يتم العمل عليها بالتعاون مع مجتمع المستخدمين."

وقالت بيتروزينو إنه بالنسبة لأي نظام يحتمل أن يكون له تأثيرات مغيّرة للحياة، يجب على المجموعات أن تستعين بخبراء خارجيين لتقييم منهجياتها بشكل مستقل. وقالت إن مصممي أدوات الذكاء الاصطناعي بحاجة إلى النظر في الأنظمة الأخرى التي ستتفاعل معها، وعليهم التخطيط لمراقبة النموذج مع مرور الوقت.

قالت هيلين ماكلهيني، المديرة التنفيذية لشبكة CDAC Network، إن التشاور مع النازحين أو غيرهم ممن تخدمهم المنظمات الإنسانية قد يزيد من الوقت والجهد اللازمين لتصميم هذه الأدوات، ولكن عدم الحصول على مدخلاتهم يثير العديد من المشاكل المتعلقة بالسلامة والأخلاق. كما يمكن أن يفتح المجال أمام المعرفة المحلية.

وقالت إنه يجب إخبار الأشخاص الذين يتلقون الخدمات من المنظمات الإنسانية بما إذا كان نموذج الذكاء الاصطناعي سيحلل أي معلومات يسلمونها لهم، حتى لو كان القصد من ذلك هو مساعدة المنظمة على الاستجابة بشكل أفضل. وقالت إن ذلك يتطلب موافقة هادفة ومستنيرة. وأضافت أنه يجب أن يعرفوا أيضًا ما إذا كان نموذج الذكاء الاصطناعي سيتخذ قرارات مغيّرة للحياة بشأن تخصيص الموارد وأين تكمن المساءلة عن تلك القرارات.

لطالما كانت ديغان علي، الرئيس التنفيذي لمنظمة أديسو، وهي منظمة غير ربحية في الصومال وكينيا، من المدافعين عن تغيير ديناميكيات السلطة في التنمية الدولية لإعطاء المزيد من المال والسيطرة للمنظمات المحلية. وتساءلت كيف يمكن للجنة الإنقاذ الدولية وغيرها من المنظمات التي تسعى إلى استخدام هذه التقنيات التغلب على مشاكل الوصول، مشيرةً إلى انقطاع التيار الكهربائي الذي استمر أسبوعًا بسبب إعصار هيلين في الولايات المتحدة.

وحذرت علي أيضًا من أن القليل من المنظمات المحلية لديها القدرة على حضور المؤتمرات الإنسانية الكبيرة التي يتم فيها مناقشة أخلاقيات الذكاء الاصطناعي. وقالت إن القليل منهم لديهم موظفون كبار بما فيه الكفاية وعلى دراية كافية للمشاركة في هذه المناقشات، على الرغم من أنهم يدركون القوة المحتملة والتأثير المحتمل لهذه التقنيات.

وقالت علي: "يجب أن نكون حريصين للغاية على عدم تكرار اختلال موازين القوى والتحيزات من خلال التكنولوجيا". "فالأسئلة الأكثر تعقيدًا ستتطلب دائمًا تجربة محلية وسياقية ومعايشة للإجابة عليها بطريقة مجدية."