ضوابط الذكاء الاصطناعي المضادة للقراصنة تعرقل الباحثين الآن

منذ أشهر، تبني شركات الذكاء الاصطناعي برامج تحقق وضوابط صارمة لمنع القراصنة الخبيثين من استخدام نماذجها لتطوير هجمات إلكترونية. وفي يونيو، فرضت الحكومة الأمريكية قيوداً على تصدير نموذجَي Mythos وFable التابعين لشركة Anthropic، وهي خطوة جاءت، جزئياً على الأقل، بدافع تقرير زعم أنه كان من الممكن تجاوز الضوابط المصممة لمنع استخدام النماذج في تنفيذ هجمات إلكترونية خبيثة. وكانت Anthropic قد روّجت لـMythos باعتباره أداة حساسة للغاية لا تُمنح إلا لمستخدمين تم التحقق منهم بعناية وتحت ضوابط صارمة. ورُفعت القيود منذ ذلك الحين: فقد عاد Fable 5 إلى الإتاحة العامة في 1 يوليو، بينما أُعيد طرح Mythos 5 حصرياً للمؤسسات الأمريكية التي تم التحقق منها، كجزء من عملية المراجعة الحكومية.

ولا تقتصر هذه القيود على Mythos. فكل من Anthropic وOpenAI تدير برنامج تحقق خاصاً بها — برنامج Cyber Verification Program التابع لـAnthropic وبرنامج Trusted Access for Cyber التابع لـOpenAI — يمنحان الباحثين المعتمدين إمكانية الوصول إلى نماذج ذات قيود أمنية أقل. وقال Mark Dowd، الباحث الذي أمضى عقوداً في اكتشاف وبيع ثغرات “يوم الصفر” لحكومات غربية بدلاً من الإبلاغ عنها لتصحيحها، في بودكاست متخصص بالأمن السيبراني: “لا أشعر بالارتياح لكون شركات كبيرة عشوائية تتخذ قرارات تعسفية بشأن ما هو آمن في مجال الأمن وما هو غير آمن.”

وقال Chris Anley، كبير العلماء في NCC Group، إن مطالبة النموذج بمحاولة استغلال ثغرة ما هي خطوة أساسية لتأكيد أنها ثغرة حقيقية تستحق الإصلاح — لكن عندما يجعل أحد الضوابط النموذج يرفض تماماً، فإن ذلك يضر بالمدافعين بقدر ما يعيق المهاجمين، لأن تعليمة مثل “أصلح هذا الكود” هي في آن واحد أداة دفاعية وخارطة طريق لاكتشاف الثغرات. وعندما يصطدم بهذا الحاجز، يلجأ هو وزملاؤه أحياناً إلى نماذج مفتوحة المصدر لا تحمل أي ضوابط على الإطلاق. وقال Paolo Stagno، مدير التكنولوجيا في Crowdfense، إن فريقه يتجنب تماماً استخدام نماذج الذكاء الاصطناعي السحابية في البحث عن الثغرات أو بناء برمجيات الاستغلال، خشية أن يتسرب هذا العمل أو يُدمج ضمن عمليات تدريب مستقبلية، ويلجأ بدلاً من ذلك إلى تشغيل نماذج مفتوحة المصدر محلياً لتلك المرحلة.

ولا يتأثر جميع الباحثين بالطريقة نفسها. وقال Giuseppe Cali إن الضوابط لا تعيقه لأنه لا يستخدم الذكاء الاصطناعي في العمل الهجومي أصلاً — بل يستخدمه فقط للهندسة العكسية وبناء أدوات مساعدة. لكن Chris Thompson، الرئيس التنفيذي لشركة RemoteThreat، قال إن الضوابط تتصرف بشكل غير متسق حتى داخل البرامج المعتمدة، ما يجعل الباحثين يقضون وقتاً في التفاوض مع النموذج بدلاً من تحليل قابلية استغلال الثغرة — وهو احتكاك قال إنه يدفع بعض الباحثين نحو نماذج صينية مفتوحة المصدر غير مقيدة ومتاحة للتنزيل المجاني، مثل GLM.

لماذا يهم

إذا استمرت الضوابط الصارمة وغير المتسقة في دفع الباحثين الشرعيين نحو نماذج مفتوحة المصدر أجنبية لا تستطيع شركات الذكاء الاصطناعي مراقبتها، فقد تنتهي إجراءات الأمان المصممة لإيقاف المهاجمين إلى إضعاف المدافعين الذين يتسابقون لاكتشاف الثغرات نفسها أولاً.