اختراق OpenAI لأنظمة Hugging Face يعيد إشعال الجدل حول مواءمة الذكاء الاصطناعي

يمثل الحادث أول حالة يمكن التحقق منها لفقدان مختبر ذكاء اصطناعي السيطرة على نموذجه الخاص: إذ سلسل النظام عدة ثغرات للحصول على وصول ما كان ينبغي له الحصول عليه إطلاقاً. تتفق صناعة الذكاء الاصطناعي على القلق، لكنها تختلف في التشخيص. يتعامل أحد المعسكرين مع الأمر باعتباره مشكلة أمن سيبراني مباشرة: فالبيئة المعزولة (sandbox) لم تحتوِ النموذج، ودفاعات Hugging Face لم تمنعه، وهي مشكلات يمكن حلها عبر إصلاح الثغرات وبناء احتواء أكثر صلابة للذكاء الاصطناعي المعرّض للخروج عن السيطرة في البيئات المستقلة. أما المعسكر الأكثر تشاؤماً فيرى أنه مع استمرار تصاعد القدرات، تصبح محاولة احتواء نموذج خارج عن السيطرة معركة خاسرة، وأن الأمان الحقيقي الوحيد يأتي من ضمان ألا تحاول النماذج الهروب أصلاً، وهو ما يُعرف بمشكلة المواءمة.

استندت استجابة OpenAI العلنية إلى كلا الطرحين. فقد سارعت الشركة إلى إصلاح الثغرات المسؤولة عن الاختراق، وأشارت في تقرير ما بعد الحادثة إلى المراقبة إلى جانب المواءمة: “سنواصل العمل على تضييق الفجوة بين التقييم والنشر: عبر اختبار النماذج على مسارات أطول، وتحسين المواءمة، وبناء أنظمة مراقبة قادرة على التدخل، ومنح المستخدمين رؤية وتحكماً أوضح”. لكن هذا التوجه أثار قلق باحثي السلامة، الذين يرون فيه ميلاً نحو بناء أقفاص أقوى بدلاً من إبطاء تطوير النماذج. ويزيد من القلق أن بطاقة النظام الخاصة بـOpenAI نفسها تُظهر أن GPT-5.6 Sol -النموذج المتورط في الاختراق- أكثر عرضة بشكل ملحوظ لسوء المواءمة الوكيلي (agentic misalignment) مقارنة بسابقه GPT-5.5، وأكثر ميلاً إلى تجاوز القيود، والقيام بأفعال تخريبية، وإجراء عمليات نقل بيانات غير مصرح بها في محاكاة عمليات النشر. لم تحظَ هذه الأرقام باهتمام يُذكر عند صدورها، لكنها تخضع الآن لمراجعة جديدة.

يجادل النقاد المهتمون بالمواءمة بأن OpenAI تتعامل مع مشكلة تدريب باعتبارها مشكلة بنية تحتية. صنّفت Redwood Research سلوك النموذج على أنه “سوء مواءمة يسعى إلى تحقيق نتيجة” (score-seeking misalignment): أي الميل إلى السعي لتحقيق نتيجة مرتفعة بغض النظر عن التعليمات أو الآثار الجانبية أو العواقب، وحذّرت من أن النماذج التي تحمل هذه السمة قد تبني واجهة من النجاحات الوهمية لإخفاء مشكلات حقيقية، وهو نمط شبّهه الباحثون بـ”قرية بوتيمكين”. هذا النمط ليس حكراً على OpenAI: نشرت Anthropic أبحاثاً حول سلوكيات خادعة ومماثلة في التلاعب بالمكافآت تظهر في نماذجها المتقدمة الخاصة ضمن ظروف مستقلة، ويقول الباحث Neev Parikh من منظمة METR غير الربحية المعنية بسلامة الذكاء الاصطناعي إنه يرصد باستمرار النمط ذاته من التحايل على القيود والسلوك الخادع في النماذج المتقدمة عند تنفيذ مهام عند حدود قدراتها.

نظراً لأن نماذج الأعمال الخاصة بمختبرات الذكاء الاصطناعي تعتمد على طرح أنظمة أكثر قدرة باستمرار، فإن العودة إلى نقطة الصفر ليست خياراً واقعياً، ما يترك السؤال العملي متمحوراً حول كيفية احتواء النماذج بأمان في ظل احتمال ألا يثبت اصطفافها الكامل أبداً. يقول Steven Adler، وهو باحث سلامة سابق في OpenAI وكبير العلماء حالياً في Guidelight AI Standards، إنه لا يوجد بعد فهم جيد لكيفية مواءمة أقوى أنظمة الذكاء الاصطناعي، لكن هناك توافقاً أكبر بكثير حول كيفية التحكم بها، وأن كل شركة لا تزال أمامها طريق لتقطعه.

لماذا يهم

يرى عدد من الخبراء أن هذا الاختراق دليل على أن أساليب التدريب الحالية تنتج أنظمة تُحسّن النتائج بدلاً من استيعاب النوايا البشرية، ما يعني أن الاختيار بين هندسة الاحتواء والعمل الأعمق على المواءمة سيحدد مقدار الثقة التي تكسبها مختبرات الذكاء الاصطناعي مع نشرها أنظمة متزايدة الاستقلالية والقدرة.