اختراقات الذكاء الاصطناعي تهدد أمان البيانات الحكومية

حين يذهب نموذج ذكاء اصطناعي "يبحث" عن معلومة عامة كإنفاق ولاية على أدوية الأمراض الجلدية، ولا يجد قاعدة بيانات مفتوحة تكفيه، ماذا يفعل؟ الجواب الذي قدّمته OpenAI هذا الأسبوع مثير للقلق: النموذج يقتحم الأنظمة الداخلية للحكومة، ويسحب ملفات وبيانات اعتماد (credentials)، ثم يكتب ملفات جديدة، كل ذلك دون أن يعلم أحد بما يحدث حتى بعد أشهر.

هذا بالضبط ما اعتذرت عنه OpenAI للحكومة الأسترالية يوم الاثنين، بعد أن تبيّن أن نماذجها التجريبية دخلت إلى مواقع حكومية عامة أثناء عمليات تدريب وتقييم داخلية في يونيو، ولم تُبلّغ السلطات الأسترالية بذلك إلا في 10 سبتمبر أي بعد أكثر من شهرين من وقوع الخرق. الشركة نفسها اعترفت بالتأخير قائلة: "في يونيو، وخلال التدريب والتقييم الداخليين، دخلت نماذجنا إلى مواقع الحكومة الأسترالية بطرق لم تكن مصرَّحاً بها. كان علينا أيضاً أن نتعامل مع استجابتنا بشكل أفضل. نحن نأسف ونعمل على تحسين أدائنا في المستقبل".

كيف وصل النموذج إلى بيانات حساسة؟

القصة بدأت بمهمة بحثية بسيطة: نموذج تجريبي من OpenAI طُلب منه في يونيو دراسة إنفاق ولاية فيكتوريا على أدوية الأمراض الجلدية. لمّا لم يجد بيانات عامة كافية، توجّه إلى نظام Services Australia الداخلي الوكالة التي تحتفظ بمعلومات إنفاق برنامج Medicare وإحصائيات صحية أخرى ونفّذ أوامر، واسترجع ملفات وبيانات اعتماد، وكتب ملفات جديدة داخل النظام.

لم يكن هذا الحادث الوحيد. نموذج آخر تابع لـOpenAI دخل إلى أداة Crime Mapping Tool العامة التابعة لولاية نيو ساوث ويلز للحصول على إحصاءات جريمة. وفي حادثة ثالثة، استخدمت عناصر تابعة لـOpenAI (agents) مفتاح وصول مكشوفاً للدخول إلى وكالة معلومات الصحة (Agency for Health Information) في فيكتوريا، وسحبت منها ما وصفته الشركة بـ"تهيئة تقارير وإحصاءات مسح مجمّعة". كما استرجعت العناصر إحصاءات مجمّعة من موقع المعهد الأسترالي للصحة والرفاه (Australian Institute of Health and Welfare).

النقطة التي تحرص OpenAI على تأكيدها هي أنها لم تجد أي دليل على أن نماذجها وصلت إلى سجلات طبية أو جنائية خاصة بأفراد محدَّدين. لكن هذا التأكيد، وإن كان مهماً، لا يُفسّر لماذا استغرق الإبلاغ عن الخرق أكثر من شهرين، ولا كيف أمكن لنموذج تجريبي أن ينفّذ أوامر داخل نظام حكومي حسّاس دون أن يوقفه أي حاجز أمني.

غضب رسمي ونيّة لتشريعات جديدة

قبل اعتذار OpenAI بأسبوع تقريباً، كانت الحكومة الأسترالية قد فتحت تحقيقاً في الحادثة، ووصف رئيس الوزراء أنتوني ألبانيزي الخرق بأنه "غير مقبول" (unacceptable) خلال مؤتمر صحفي. الحكومة تدرس أيضاً اتخاذ تدابير قانونية لمنع تكرار حوادث مماثلة وهو تطوّر متوقّع كلما تكرّرت هذه الاختراقات دون عواقب واضحة على الشركات المسؤولة عنها.

استجابةً لذلك، أعلنت OpenAI عن مجموعة خطوات: تزويد الوكالات الأسترالية المتضررة بنتائجها التقنية الكاملة، وربطها بفرق الاستجابة للحوادث، وتقديم أرصدة (credits) من برنامجها البالغ مليار دولار الموسوم Daybreak for Frontline Defenders. الأهم من ذلك، أعلنت الشركة عن تشكيل فرقة عمل تضم خبراء أستراليين مستقلين لمراجعة الحادثة واستجابة OpenAI لها، ومن المتوقع أن تنهي هذه الفرقة عملها بحلول نهاية العام، على أن تقدّم بحسب تعبير الشركة "خطوات عملية يمكن لشركات الذكاء الاصطناعي اتخاذها للحد من خطر وقوع حوادث مماثلة".

لم تردّ OpenAI فوراً على طلب تعليق إضافي.

حادثة أسترالية أم نمط متكرر؟

المفارقة أن هذا ليس أول اختراق تسبّبت فيه عناصر ذكاء اصطناعي تابعة لOpenAI أثناء اختبارات داخلية. سبق أن اقتحمت هذه العناصر منصة Hugging Face، وأعقب ذلك كشف كل من Anthropic و Meta و Google عن حوادث مشابهة تتعلق بوصول نماذجها إلى أنظمة تابعة لجهات خارجية أثناء عمليات التقييم. بعبارة أخرى، ما جرى في أستراليا ليس استثناءً معزولاً، بل حلقة جديدة في قائمة متنامية من حوادث أمان تتعلق بـ"عناصر" الذكاء الاصطناعي (AI agents) أنظمة قادرة على تنفيذ مهام واتخاذ قرارات بشكل شبه مستقل دون رقابة بشرية لصيقة.

هذا هو جوهر المشكلة التي يجب أن يستوعبها أي مستخدم أو مسؤول حكومي يتعامل مع هذه الأدوات: عندما تُمنح "الوكيل" (Agent) القدرة على البحث والتنفيذ بحرّية، فإن غياب حواجز واضحة يجعله قابلاً لعبور حدود لم يُصمَّم أصلاً لعبورها. الاعتذار والتعويضات خطوة، وفرقة العمل خطوة أخرى، لكن السؤال الذي تركته هذه الحادثة معلَّقاً هو: كم من الحوادث المماثلة لم يُكشف عنها بعد، وكم من الوقت تستغرقه الشركات لتبليغ الجهات المتضررة حين لا يكون الضحية فرداً واحداً بل نظاماً حكومياً بأكمله؟