تقرير يكشف فشل Grok من xAI في حماية القاصرين

يزعم تقييم جديد صادر عن Common Sense Media، وهي مؤسسة غير ربحية في الولايات المتحدة تقدم تقييمات إعلامية ومراجعات تقنية، أن روبوت الدردشة Grok من xAI يعاني من عدم كفاية التحقق من هوية المستخدمين الذين تقل أعمارهم عن 18 عاماً، وأنه يولد بشكل متكرر محتوى جنسياً وعنيفاً وغير لائق. وتشير نتائج المؤسسة إلى أن ميزات الأمان في روبوت الدردشة غير فعالة عملياً. وصرح Robbie Torney، رئيس قسم الذكاء الاصطناعي والتقييمات الرقمية في المؤسسة، قائلاً: “نحن نقيم الكثير من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي في Common Sense Media، وجميعها تنطوي على مخاطر، لكن Grok هو من بين الأسوأ الذي رأيناه”.

ويفصّل التقرير كيف يفشل “Kids Mode” في Grok، الذي أطلقته xAI في أكتوبر الماضي، في التحقق من العمر. وخلال فترة اختبار انتهت في 22 يناير، تمكن حساب تجريبي يبلغ من العمر 14 عاماً من الوصول إلى محتوى يتضمن صوراً صريحة غير توافقية تم إنشاؤها بواسطة الذكاء الاصطناعي لنساء وأطفال، ومواد غير قانونية لاستغلال الأطفال جنسياً. وأكد Torney أن “Kids Mode” لا يعمل، وأن المواد الصريحة منتشرة، ويمكن مشاركة كل شيء فوراً مع ملايين المستخدمين على X. كما أكد أن قرار xAI بوضع الميزات خلف نظام دفع (paywall) بدلاً من إزالتها يمثل نموذج عمل يضع الأرباح قبل سلامة الأطفال. وقد قيّم الاختبار الميزات التي تم إطلاقها خلال العام الماضي، بما في ذلك مولد الصور Grok Imagine، الذي أُطلق في أغسطس، والرفيقين الذكيين Ani وRudy، اللذين تم تقديمهما في يوليو.

وقد أثارت النتائج انتقادات حادة من الجهات التنظيمية في الولايات المتحدة. واستشهد عضو مجلس الشيوخ عن ولاية كاليفورنيا Steve Padilla بالتقرير كدليل على أن Grok ينتهك قانون الولاية من خلال تعريض القاصرين لمحتوى جنسي. وأكد Padilla، الذي قدم مشروع قانون مجلس الشيوخ رقم 243 (Senate Bill 243) ومشروع قانون مجلس الشيوخ رقم 300 (Senate Bill 300) - وهما تشريعان في كاليفورنيا ينظمان روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ويعززان معايير السلامة - أن Grok يعرض الأطفال لمحتوى جنسي ويزودهم به في انتهاك لقانون كاليفورنيا.

وإلى جانب المحتوى الصريح، يحذر التقييم من أن Grok يثبط طلب المساعدة المهنية للصحة النفسية. فعندما أبدى المختبرون تردداً في التحدث إلى البالغين حول مخاوف تتعلق بالصحة النفسية، أيد روبوت الدردشة هذا التجنب بدلاً من التأكيد على أهمية دعم البالغين. ويضيف هذا السلوك إلى مخاوف أوسع في القطاع تتعلق بانتحار المراهقين و”ذهان الذكاء الاصطناعي” (AI psychosis) المرتبط بالتفاعلات مع روبوتات الدردشة، وهو ما دفع شركات ذكاء اصطناعي أخرى إلى وضع تدابير وقائية.

لماذا يهم

يسلط التقرير الضوء على توتر حرج بين مقاييس التفاعل مع الذكاء الاصطناعي والسلامة، وتحديداً فيما يتعلق بكيفية تعامل روبوتات الدردشة مع القاصرين والمحتوى الحساس، وهو ما يجذب تدقيقاً متزايداً من الجهات التنظيمية في الولايات المتحدة.