Anthropic توقف نماذج ذكاء اصطناعي بعد أمر من الحكومة الأمريكية

يوم الجمعة، أمرت الحكومة الأمريكية شركة Anthropic بالإيقاف الفوري للوصول إلى اثنين من نماذج الذكاء الاصطناعي الخاصة بها، وهما Claude Fable 5 وClaude Mythos 5. وأكدت Anthropic امتثالها لأمر الحكومة. ويجبر توجيه الإيقاف الشركة على تعطيل كلا النموذجين لجميع المستخدمين حول العالم، مما يمثل تصعيداً كبيراً في التدقيق التنظيمي.

صدر توجيه الحكومة كأمر للتحكم في الصادرات، لكن القلق الأساسي يتعلق بادعاءات حول “كسر حماية” (jailbreak) نموذج Fable 5، الذي أطلقته Anthropic قبل ثلاثة أيام. ويشير مصطلح “كسر الحماية” إلى توجيه نموذج ذكاء اصطناعي لتجاوز حواجز الأمان الخاصة به. ووفقاً لـ Anthropic، لم تقدم الحكومة سوى أدلة على “احتمالية حدوث كسر حماية محدود وغير شامل” للنموذج. وقد اختلفت الشركة مع الرأي القائل بأن اكتشاف احتمالية كسر حماية محدود يجب أن يكون سبباً لاستدعاء نموذج تجاري تم نشره لمئات الملايين من الأشخاص. وفي بيان لها، حذرت Anthropic قائلة: “إذا تم تطبيق هذا المعيار عبر القطاع، فإننا نعتقد أنه سيؤدي فعلياً إلى وقف جميع عمليات نشر النماذج الجديدة لجميع مزودي نماذج الذكاء الاصطناعي المتطورة (frontier models)”. ويشير مصطلح “النماذج المتطورة” (frontier models) إلى نماذج ذكاء اصطناعي عالية القدرة وتعد الأحدث من نوعها. وقد تم تصنيف Fable 5 مؤخراً كأكثر النماذج المتاحة للجمهور قدرة من قبل شركة Vals AI، وهي شركة متخصصة في قياس أداء الذكاء الاصطناعي.

يؤثر الإيقاف أيضاً على Claude Mythos 5، وهو نموذج استعرضته Anthropic في أوائل شهر أبريل. ونظراً لقدراته، قصرت Anthropic استخدام Mythos 5 على Project Glasswing، وهو برنامج ذو وصول مقيد. ويضم هذا البرنامج ما يقرب من 50 مؤسسة معتمدة، تشمل Amazon وApple وGoogle وMicrosoft وCrowdStrike. يأتي هذا الإجراء التنظيمي في وقت حساس بالنسبة لشركة Anthropic، التي يُتوقع أن تسعى لطرح عام أولي هذا العام. ويسلط الموقف الضوء على المخاطر التجارية لنهج Anthropic الذي يضع السلامة في المقام الأول. وكان Sam Altman، الرئيس التنفيذي لشركة الذكاء الاصطناعي المنافسة OpenAI، قد صرح سابقاً لمقدم البودكاست Ashlee Vance بأن استراتيجية Anthropic ترقى إلى “تسويق قائم على الخوف”. وجادل Altman بأنه من التسويق المذهل بوضوح الادعاء ببناء قنبلة ثم عرض بيع ملجأ من القنابل مقابل 100 مليون دولار.

لماذا يهم

يمثل أمر الحكومة الأمريكية بإيقاف أقوى نماذج الذكاء الاصطناعي لدى Anthropic تصعيداً كبيراً في التدقيق التنظيمي بشأن سلامة نماذج الذكاء الاصطناعي المتطورة. ومن المحتمل أن يضع هذا الإجراء سابقة قد توقف عمليات نشر النماذج المستقبلية في جميع أنحاء القطاع.