OpenAI تسعى لتعيين مسؤول تنفيذي جديد لقيادة التأهب لسلامة الذكاء الاصطناعي

تعمل شركة OpenAI بنشاط على توظيف رئيس جديد لقسم التأهب لدراسة المخاطر المتعلقة بالذكاء الاصطناعي والإشراف على إطار عمل إدارة المخاطر الخاص بها، مع تقديم حزمة تعويضات بقيمة 555,000 دولار. وسيكون المسؤول التنفيذي الجديد مسؤولاً عن تنفيذ إطار عمل التأهب الخاص بالشركة، والذي يوضح نهج OpenAI في تتبع “القدرات الحدودية” (frontier capabilities) — التي تُعرفها الشركة بأنها قدرات نماذج الذكاء الاصطناعي المتقدمة — والتي تخلق مخاطر جديدة لحدوث “ضرر جسيم”. وتمثل حملة التوظيف هذه مرحلة انتقالية لفريق السلامة، الذي تأسس في الأصل عام 2023 لدراسة “المخاطر الكارثية” المحتملة. وكان يشغل هذا المنصب سابقاً Aleksander Madry، الذي عمل كرئيس سابق لقسم التأهب قبل أن تبدأ الشركة بحثها عن مسؤول تنفيذي جديد لقيادة إطار العمل.

تأتي جهود التوظيف هذه في الوقت الذي تعالج فيه OpenAI مخاوف متزايدة بشأن قدرات تقنيتها. وفي منشور على منصة التواصل الاجتماعي X، أقر الرئيس التنفيذي Sam Altman بأن نماذج الذكاء الاصطناعي “بدأت تطرح بعض التحديات الحقيقية”، بما في ذلك تأثيرها المحتمل على الصحة النفسية وقدرتها على تحديد ثغرات أمنية حاسمة في أجهزة الكمبيوتر. وسلط Altman الضوء على الطبيعة مزدوجة الاستخدام لهذه الأنظمة ودعا المرشحين للتقدم، كاتباً: “إذا كنت ترغب في مساعدة العالم على معرفة كيفية تمكين المدافعين عن الأمن السيبراني بقدرات متطورة مع ضمان عدم قدرة المهاجمين على استخدامها للإضرار، ومن الناحية المثالية جعل جميع الأنظمة أكثر أماناً، وبالمثل فيما يتعلق بكيفية إطلاقنا للقدرات البيولوجية وحتى اكتساب الثقة في سلامة تشغيل الأنظمة التي يمكنها تحسين نفسها، يرجى التفكير في التقديم”.

يتزامن البحث عن قيادة جديدة أيضاً مع تدقيق خارجي مكثف وتحديات قانونية تتعلق بسلامة الذكاء الاصطناعي التوليدي. وتواجه OpenAI دعاوى قضائية تدّعي أن منتجها “ChatGPT” قد “عزز أوهام المستخدمين”، و”زاد من عزلتهم الاجتماعية”، و”دفع بعضهم إلى الانتحار”. ووسط مخاوف السلامة هذه، قامت OpenAI مؤخراً بتحديث إطار عمل التأهب الخاص بها. وتنص الإرشادات المحدثة على أن الشركة قد تعدل متطلبات السلامة الخاصة بها إذا أطلق مختبر ذكاء اصطناعي منافس نموذجاً “عالي المخاطر”.

لماذا يهم

تسعى OpenAI لتعيين مسؤول تنفيذي جديد لقيادة إطار عمل التأهب الخاص بها، والذي يتتبع المخاطر التي تتراوح من الأمن السيبراني إلى التهديدات البيولوجية، وذلك وسط تدقيق مستمر بشأن تأثير نماذج الذكاء الاصطناعي الخاصة بها على الصحة النفسية والسلامة.