باحثون ينتقدون ضوابط الأمان في نموذج Fable الجديد من Anthropic

يوم الثلاثاء، أطلقت Anthropic نموذج Fable، وهو نسخة عامة ومحدودة من نموذجها للأمن السيبراني Mythos، الذي أُطلق في الأصل في شهر أبريل. واجه هذا الإطلاق اعتراضات فورية من متخصصي الأمن السيبراني فيما يتعلق بتدابير السلامة التقييدية الخاصة به. طبقت Anthropic ضوابط أمان — وهي قيود سلامة مبرمجة داخل نموذج الذكاء الاصطناعي — للحد من خطر إمكانية استخدام Fable في تطوير برمجيات خبيثة أو اختراق البرامج. بالإضافة إلى ذلك، تهدف القيود المفروضة على موضوعات علم الأحياء إلى منع تطوير أسلحة بيولوجية. ومع ذلك، فإن باحثي الأمن السيبراني غير راضين عن هذه القيود، بحجة أنها تحد بشكل كبير من فائدة النموذج.

أفاد باحثون أمنيون بأن ضوابط أمان Fable حساسة للغاية وتعطل العمل المشروع. صرحت Valentina “Chompie” Palmiotti، وهي باحثة أمنية في IBM X-Force، بأن “[Fable] يرفض أي طلب قد يكون مرتبطاً بالأمن السيبراني بشكل غير مباشر. حتى المهام البسيطة مثل قراءة منشور مدونة”، مما يحد من فائدته للعمل الأمني المشروع. وأوضح Matt Suiche، وهو خبير في الأمن السيبراني وعضو في الطاقم التقني في Tolmo، وهي شركة ناشئة في مجال الأمن السيبراني القائم على الذكاء الاصطناعي، أنه عندما يطلب المستخدمون من النموذج كتابة كود آمن، فإنه يفترض أن الطلب يتعلق بعمل الأمن السيبراني بدلاً من ممارسات هندسة البرمجيات القياسية، مما يؤدي إلى تراجع في الأداء. وأضاف Suiche أن ضوابط الأمان تبدو قائمة على الكلمات المفتاحية، مما يعني أن أي مصطلحات ضمن المجال المعجمي للأمن السيبراني تؤدي إلى تفعيل تدابير السلامة. وأشار باحث آخر إلى أن مجرد طلب مراجعة للكود يؤدي إلى تفعيل ضوابط الأمان. عندما يصطدم Fable بضابط أمان، فإنه يعود إلى استخدام Claude Opus 4.8، وهو النموذج البديل الذي يُستخدم عند تفعيل ضوابط الأمان.

على الرغم من هذه الصعوبات، أشار Suiche إلى أن ضوابط الأمان الصارمة مفهومة في الأيام الأولى للإطلاق، مرجحاً أنها ستتطور مع زيادة تعاون شركات الذكاء الاصطناعي مع شركات الأمن السيبراني. ولتجاوز هذه القيود، تطلب Anthropic من متخصصي الأمن السيبراني التقديم على برنامجها “Cyber Verification Program” للحصول على وصول بقيود أقل. يعكس هذا النهج ما تتبعه الشركة المنافسة OpenAI، التي تدير برنامجاً مشابهاً يسمى “Trusted Access for Cyber”. في غضون ذلك، وسعت Anthropic نطاق الوصول إلى نموذج Mythos الأساسي الأكثر قوة. فبعد أن قصرت Anthropic في البداية الوصول إلى Mythos على عدد محدود من المؤسسات في شهر أبريل ضمن “Project Glasswing” — وهو جهد لنشر النموذج لتأمين البرمجيات والبنية التحتية الحيوية — قامت الشركة الأسبوع الماضي بتوسيع نطاق الوصول ليشمل مئات المؤسسات في 15 دولة.

لماذا يهم

يسلط التوتر بين ضوابط الأمان وفائدة النموذج الضوء على التحدي المستمر الذي تواجهه مختبرات الذكاء الاصطناعي في الموازنة بين تخفيف المخاطر والاحتياجات العملية لمتخصصي الأمن السيبراني.