OpenAI تُصدر خطة عمل لسلامة الأطفال وسط تدقيق قانوني

يوم الثلاثاء، أصدرت OpenAI خطة عمل لتعزيز جهود حماية الأطفال في الولايات المتحدة. صُممت “Child Safety Blueprint” (خطة عمل سلامة الأطفال) للمساعدة في الكشف الأسرع، وتحسين الإبلاغ، وإجراء تحقيقات أكثر كفاءة في حالات استغلال الأطفال المدعوم بالذكاء الاصطناعي. تأتي هذه المبادرة وسط ارتفاع في حالات الإساءة عبر الإنترنت. ووفقاً لـ Internet Watch Foundation، تم الكشف عن أكثر من 8,000 بلاغ عن محتوى استغلال جنسي للأطفال مولّد بواسطة الذكاء الاصطناعي في النصف الأول من عام 2025، وهو ما يمثل زيادة بنسبة 14٪ عن العام السابق. يشمل هذا النشاط مجرمين يستخدمون أدوات الذكاء الاصطناعي لإنشاء صور إباحية مزيفة للأطفال بغرض الابتزاز المالي — الذي يُعرّف بأنه ابتزاز يتضمن التهديد بنشر صور إباحية — ولإنشاء رسائل مقنعة لغرض “الاستدراج” (grooming)، وهي عملية بناء علاقة عاطفية مع طفل لتقليل حواجزه النفسية أمام الإساءة.

يتزامن إصدار خطة العمل مع تحديات قانونية كبيرة تواجه الشركة. في نوفمبر الماضي، رفعت كل من Social Media Victims Law Center وTech Justice Law Project سبع دعاوى قضائية في محاكم ولاية كاليفورنيا، تدّعي أن OpenAI أصدرت نموذج GPT-4o قبل أن يكون جاهزاً. وتزعم الدعاوى أن الطبيعة النفسية التلاعبية للمنتج ساهمت في حالات وفاة غير مشروعة عن طريق الانتحار والمساعدة على الانتحار. وتحديداً، تشير الملفات إلى أربعة أفراد توفوا انتحاراً وثلاثة آخرين عانوا من أوهام حادة تهدد حياتهم بعد تفاعلات مطولة مع برنامج الدردشة الآلي.

طوّرت OpenAI خطة العمل بالتعاون مع National Center for Missing and Exploited Children وAttorney General Alliance. كما تلقت الشركة ملاحظات من المدعي العام لولاية كارولينا الشمالية Jeff Jackson والمدعي العام لولاية يوتا Derek Brown. يركز الإطار الناتج على ثلاثة مجالات رئيسية: تحديث التشريعات لتشمل مواد الإساءة المولّدة بواسطة الذكاء الاصطناعي، وتحسين آليات الإبلاغ إلى جهات إنفاذ القانون، ودمج ضمانات وقائية مباشرة في أنظمة الذكاء الاصطناعي. ومن خلال القيام بذلك، تهدف OpenAI إلى اكتشاف التهديدات المحتملة في وقت مبكر وضمان وصول معلومات قابلة للتنفيذ إلى المحققين على الفور. يبني هذا الجهد على تدابير سلامة سابقة، مثل إرشادات للمستخدمين دون سن 18 عاماً تحظر إنشاء محتوى غير لائق، أو تشجيع إيذاء النفس، أو تقديم نصائح تساعد الشباب على إخفاء سلوك غير آمن عن مقدمي الرعاية. كما أصدرت الشركة مؤخراً خطة عمل للسلامة للمراهقين في الهند.

لماذا يهم

تمثل خطة العمل محاولة استراتيجية من قبل OpenAI للتوافق مع الجهات التنظيمية والمدافعين عن سلامة الأطفال، على الرغم من أنها تواجه عقبات كبيرة بسبب التقاضي المستمر فيما يتعلق بسلامة نماذج الذكاء الاصطناعي الخاصة بها.