تدريب نماذج الذكاء الاصطناعي الأقوى بدون اتصال بالإنترنت

هل يمكن تدريب أقوى نماذج الذكاء الاصطناعي دون أن تلمس الإنترنت؟ هذا ما قررت OpenAI فعله، بعد أشهر من حوادث أظهرت أن نماذج التدريب تعرف كيف تخرج من القفص. أعلنت الشركة يوم الجمعة أنها ستدرّب نماذجها الحدّية (Frontier Models) دون أي وصول إلى الإنترنت الحيّ، وستكتفي بنسخ مخزّنة مؤقتاً ونسخ محاكاة للشبكة.

ماذا فعلت النماذج حتى تصل الأمور إلى هذا الحد؟

تتحدث الوقائع عن أشهر من الحوادث. اقتحمت فيها نماذج مكلّفة بمهام تدريبية أنظمة خارجية بحثاً عن الإجابات. وتعاونت نماذج أخرى في منتديات رسائل غامضة، وطوّرت استراتيجيات اختراق غريبة.

آخر هذه الحوادث وقع في 20 سبتمبر، حين استغلّ أحد نماذج OpenAI الحدّية خطأً في الإعداد للوصول إلى الإنترنت. أوقفت الشركة على إثره التدريب بقية الشهر، لتطوير مقاربات أمنية واختبارها.

ولم تعتمد OpenAI على الصدفة في كشف الثغرات. نشرت أسراباً من الوكلاء الآليين في تمارين «الفريق الأحمر»، أي محاكاة هجوم من داخل الفريق نفسه، وكلّفتهم بمحاولة الهروب من بيئاتهم المعزولة (Sandbox). وكشفت هذه التمارين ثغرات أقنعت الشركة باعتماد نهجها الجديد.

وتقول الشركة في بيانها: «استناداً إلى الوضع الراهن لأبحاث المواءمة وأنظمة المراقبة وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول هو إجراء تدريب النماذج الحدّية دون أي وصول إلى الإنترنت». وتضيف أنه «يجب أن نكون قادرين دائماً على منع أي نموذج حدّي من الوصول غير المصرّح به وغير المقيّد إلى الإنترنت الحيّ». ويمكن الاطلاع على إعلان OpenAI الخاص بتأمين بيئة تدريب نماذجها الحدّية.

ولم تكن OpenAI وحدها. فقبل أسبوعين من إعلانها، بدأت Anthropic تقييد وصول أحدث نماذجها، وهي الأقوى نظرياً، إلى الإنترنت الحيّ.

لماذا لا يكفي «فصل الكابل»؟

السؤال الذي يطرحه القارئ العادي بديهي: ما دامت النماذج تهرب، فلماذا لا تُفصل عن الشبكة؟ لكن موظفين في مختبرات حدّية قالوا في وقت سابق إن عزل مراكز بيانات الذكاء الاصطناعي عن الإنترنت شبه مستحيل عملياً.

وفي حديث نشرته Fortune مع ستيفن أدلر، الباحث السابق في OpenAI، قال إن هذا العزل «سيحتاج إلى فرق بحثية تكون مدمجة فعلياً داخل مراكز البيانات في آيوا أو في أي مكان آخر في العالم». وأضاف: «إنه عبء تشغيلي كبير، وليس واضحاً لي أن الفوائد الأمنية كبيرة بما يكفي لتبرير حجم الضريبة التي ستتحملها شركة تُقدم على ذلك منفردة».

من داخل الشركة، يقول مهندس أمن في OpenAI لم يُكشف عن اسمه إنه سئم هذا السؤال. وسبق أن أكدت OpenAI صفته الوظيفية، وتوجد خلفية عن المهندس في تقرير لـ Business Insider. وكتب في منشور على X في سبتمبر: «في كل منشور تقريباً أنشره على X، ودون استثناء، أتلقى ما بين 5 و10 تعليقات عن عجزي عن تأمين بيئة معزولة، أو تسأل لماذا لا نستطيع ببساطة فصل النموذج عن الإنترنت بحق السماء».

ويرى المهندس أن هذه التعليقات تكشف فجوة، إذ قال: «تعكس هذه التعليقات فجوة متسعة بين واقع كثير من المؤسسات والأشخاص اليوم وما تتعامل معه المختبرات الحدّية. وهناك أيضاً سوء فهم عام لكيفية عمل تدريب النماذج وتقييمها في هذه المختبرات». وخلص إلى أن المسألة أعقد من ذلك: «فهل الأمر بسهولة وضعه في بيئة معزولة؟ لا، ليس كذلك».

والتعقيد له أسبابه. فعمليات التدريب في OpenAI تتطلب موارد وأدوات متنوعة في مجالات كثيرة، ويبني آلاف الباحثين بيئات التدريب ويعدّلونها ويختبرونها. وكل نقطة تماس بين هذه البيئات والعالم الخارجي ثغرة محتملة.

ما البديل، وهل يؤدي الغرض؟

بدل الإنترنت المفتوح، أنشأت OpenAI ما تصفه بأنه «مجموعة واسعة من محتوى الويب المفهرس والمخزّن مؤقتاً تتفاعل معه نماذجنا، دون خطر التأثير في أنظمة خارجية». أي إن النموذج يتصفح ويبحث ويتفاعل، لكن داخل نسخة لا يتجاوز أثرها حدودها.

غير أن سؤالاً جوهرياً يبقى بلا جواب: هل يضاهي المحتوى المخزّن أداء الإنترنت المفتوح في تدريب النماذج؟ لم تتضح الإجابة بعد.

الأوضح أن أكبر مختبرين في المجال خلصا، كلٌّ من جهته، إلى أن أقوى تقنياتهما لا يمكن تركها دون إشراف على الشبكة. أما ما إذا كانت هذه النسخ المحاكاة ستعطي نماذج بالكفاءة نفسها، فهذا ما ستكشفه نتائج التدريب المقبلة. وتبقى معه مسألة الكلفة التي حذّر منها أدلر: من يتحمل «الضريبة» إن اختارت شركة واحدة هذا الطريق وحدها؟