OpenAI تطلق أدوات مفتوحة المصدر لسلامة المراهقين

أعلنت شركة OpenAI يوم الثلاثاء عن إصدار مجموعة من المطالبات التي يمكن للمطورين استخدامها لجعل تطبيقاتهم أكثر أماناً للمستخدمين الذين تقل أعمارهم عن 18 عاماً. تم إصدار هذه الأدوات كمصدر مفتوح — أي برمجيات أو أدوات يتم إصدارها مع توفير الكود المصدري للتعديل — مما يسمح للمطورين بتعزيز ما يبنونه بدلاً من البدء من الصفر. صُممت هذه المطالبات لمساعدة المطورين على وضع سياسات سلامة تستهدف قضايا محددة، بما في ذلك العنف المصور، والمحتوى الجنسي، والمثالية الجسدية والسلوكيات الضارة، والأنشطة والتحديات الخطيرة، ولعب الأدوار الرومانسية أو العنيفة، والسلع والخدمات المقيدة بالعمر.

ولتصميم هذه المطالبات، تعاونت OpenAI مع جهات مراقبة سلامة الذكاء الاصطناعي Common Sense Media وeveryone.ai. ويمكن استخدام سياسات المطالبات الناتجة جنباً إلى جنب مع نموذج السلامة مفتوح الأوزان من OpenAI، وهو gpt-oss-safeguard. ونظراً لهيكلتها كمطالبات، فقد صُممت لتكون متوافقة مع نماذج أخرى، على الرغم من أنها ربما تكون أكثر فعالية داخل نظام OpenAI البيئي الخاص. وفي بيان له، قال Robbie Torney، رئيس تقييمات الذكاء الاصطناعي والرقمية في Common Sense Media: “تساعد سياسات المطالبات هذه في وضع حد أدنى هادف للسلامة عبر النظام البيئي، ولأنها صدرت كمصدر مفتوح، يمكن تكييفها وتحسينها بمرور الوقت”.

يأتي هذا الإصدار بناءً على جهود السلامة السابقة لشركة OpenAI، والتي تشمل تدابير حماية على مستوى المنتج مثل أدوات الرقابة الأبوية والتنبؤ بالعمر. وفي العام الماضي، قامت الشركة بتحديث “Model Spec” الخاص بها — وهي إرشادات OpenAI لنماذج اللغات الكبيرة — لتوجيه كيفية تعامل نماذجها مع المستخدمين الذين تقل أعمارهم عن 18 عاماً. وأشارت OpenAI إلى أن المطورين، بما في ذلك الفرق ذات الخبرة، غالباً ما يواجهون صعوبة في ترجمة أهداف السلامة إلى قواعد دقيقة وقابلة للتنفيذ. ووفقاً للشركة، يمكن أن تؤدي هذه الصعوبة إلى ثغرات في الحماية، أو تطبيق غير متسق للقواعد، أو تصفية واسعة النطاق للمحتوى. وأضافت OpenAI أن السياسات الواضحة والمحددة النطاق تشكل أساساً حيوياً لبناء أنظمة سلامة فعالة.

وعلى الرغم من هذه الأدوات الجديدة، تقر OpenAI بأن السياسات القائمة على المطالبات ليست حلاً كاملاً للتحديات المعقدة لسلامة الذكاء الاصطناعي. وتواجه الشركة العديد من الدعاوى القضائية التي رفعتها عائلات أشخاص توفوا نتيجة الانتحار بعد استخدام مفرط لـ ChatGPT. وغالباً ما تتشكل هذه العلاقات الخطيرة بعد أن يتجاوز المستخدم تدابير حماية روبوت الدردشة، ولا توجد حواجز حماية لأي نموذج يمكن اعتبارها منيعة تماماً.

لماذا يهم

توفر هذه المطالبات مفتوحة المصدر “حداً أدنى للسلامة” موحداً للمطورين، مما يساعد في تخفيف المخاطر مثل المحتوى المصور، على الرغم من أنها تظل حلاً جزئياً للتحديات الأوسع والأكثر تعقيداً لسلامة الذكاء الاصطناعي.