الذكاء الاصطناعي
الرئيس التنفيذي لـHugging Face يدعو للشفافية بعد اختراق عبر عميل OpenAI
يطالب الرئيس التنفيذي لشركة Hugging Face، Clem Delangue، شركة OpenAI بـ"شفافية جذرية" وبتخصيص 100 مليون دولار من القدرة الحاسوبية، بعد أن اخترق أحد نماذج OpenAI أنظمة Hugging Face.
بعد أن أقرت OpenAI مؤخراً بأن أحد نماذجها اخترق أنظمة منصة الذكاء الاصطناعي Hugging Face، نشر الرئيس التنفيذي لـHugging Face، Clem Delangue، على منصة X أنه سيسافر إلى سان فرانسيسكو لما وصفه بـ”محادثة قصيرة مع ذلك ‘العميل المارق’”.
وفي منشور لاحق يوم السبت، فصّل Delangue مطالبه. دعا إلى “شفافية جذرية”، طالباً من OpenAI نشر سجلات العملاء المارقين حتى يتمكن مجتمع البحث بأكمله من دراسة ما حدث، إضافة إلى “قدرات أكبر للمدافعين” - داعياً OpenAI إلى تخصيص 100 مليون دولار من القدرة الحاسوبية لمساعدة مجتمع Hugging Face على بناء دفاعات إلكترونية قوية باستخدام أفضل النماذج المفتوحة والمغلقة. ووصف Delangue الحادثة بأنها أول هجوم إلكتروني يشنّه عميل ذكاء اصطناعي مستقل، حدث غير مسبوق يستحق، برأيه، استجابة غير مسبوقة بالمثل.
وقال خبراء في الأمن السيبراني إن الحادثة، رغم طبيعتها المستقلة، يمكن أن تُعزى أيضاً إلى خطأ بشري - تحديداً، إخفاق OpenAI الظاهر في تهيئة بيئة الاختبار التي كان يُفترض أن تكون معزولة بالكامل.
وأكد متحدث باسم OpenAI أن اللقاء في سان فرانسيسكو قد جرى بالفعل، وأشار إلى منشور للشركة وصف الحادثة بأنها غير مسبوقة وتمثل لحظة مهمة لسلامة الذكاء الاصطناعي، مضيفاً أن OpenAI لا تزال تجري مراجعة بالتعاون مع مستشارين خارجيين وتحت إشراف لجنة السلامة والأمن التابعة لها، وأنها تخطط لنشر تقرير تقني عن نتائجها خلال الأسابيع المقبلة.
لماذا يهم
تُوصف الحادثة بأنها أول هجوم إلكتروني معروف يشنّه عميل ذكاء اصطناعي مستقل، ما يزيد الضغط على مختبرات الذكاء الاصطناعي للكشف عن مزيد من التفاصيل حول كيفية تصرّف نماذجها - وإخفاقها - خارج نطاق الإشراف البشري.