Discord تعترف بأن خللاً في الذكاء الاصطناعي تسبب في حظر آلاف المستخدمين بشكل خاطئ

أقرت Discord بأن خللاً في نظام الإشراف الخاص بها القائم على الذكاء الاصطناعي قد حظر أكثر من 8,000 مستخدم بشكل خاطئ على مدار الشهرين الماضيين. وأكدت منصة التواصل أن المشكلة تؤثر على الحسابات منذ شهر مايو، مع حظر 200 مستخدم إضافي خلال عطلة نهاية الأسبوع قبل أن تحدد الشركة المشكلة وتحلها. وقد صنف النظام بشكل غير صحيح صوراً غير ضارة - مثل أنماط الشبكات المربعة - على أنها مواد غير قانونية أو مسيئة، مما أدى إلى تعليق الحسابات بشكل دائم.

على منصتي التواصل الاجتماعي X وReddit، عبّر المستخدمون عن إحباطهم الشديد، مشيرين إلى أن حظر الحسابات الدائم بناءً على نتائج إيجابية خاطئة له عواقب وخيمة على أولئك الذين يعتمدون على المنصة في العمل أو التواصل الاجتماعي. وادعى المستخدمون أنهم تعرضوا للتعليق الدائم لمجرد تحميلهم صوراً تحتوي على أنماط شبكات مربعة. وتكهن الكثيرون بأن أدوات الإشراف القائمة على الذكاء الاصطناعي في Discord أصبحت حساسة لأنماط تشبه الشبكات لأنها استُخدمت سابقاً لإخفاء محتوى غير لائق (NSFW) ومحتوى استغلال الأطفال عن أنظمة الكشف الآلي. وسلط أحد مستخدمي X الضوء على التأثير المدمر لهذه الأخطاء الآلية، كاتباً: “إن فقدان حساب Discord بسبب شيء غير عادل كهذا يمكن أن يكون مدمراً للغاية ويؤثر على المستخدمين بشدة، وكل يوم يتأثر ملايين المستخدمين بحظر الذكاء الاصطناعي الخاطئ. يجب إيقاف هذا الأمر”.

وفي معرض شرحها للمشكلة، أشارت Discord إلى أن نظام السلامة الآلي الخاص بها يطابق المحتوى الذي يتم تحميله مع قواعد بيانات للمواد الضارة المعروفة، وهو ما قد يولد أحياناً نتائج إيجابية خاطئة. وصرحت الشركة قائلة: “نحن نعمل على وضع ضمانات أفضل حتى لا يتكرر هذا الأمر”. يعكس هذا الحادث صراعاً أوسع في الصناعة مع الإشراف الآلي. ففي العام الماضي، أبلغ مستخدمو Instagram وFacebook Groups - وكلاهما مملوكان لشركة Meta - بالإضافة إلى Tumblr، عن شكاوى إشراف مماثلة وتعليق حسابات غير مبرر. وبينما أشار المستخدمون إلى الأنظمة الآلية، لم تؤكد Meta علناً ما إذا كانت أخطاء الذكاء الاصطناعي هي المسؤولة. وحالياً، يضغط مجلس الرقابة التابع لـ Meta، وهو هيئة مستقلة تراجع قرارات الإشراف على المحتوى في Meta، من أجل زيادة الشفافية فيما يتعلق بممارسات الإشراف الخاصة بالشركة.

لماذا يهم

يسلط الحادث الضوء على أحد التحديات المتزايدة المحيطة بالإشراف المدعوم بالذكاء الاصطناعي، حيث تعتمد العديد من المنصات بشكل متزايد على الأنظمة الآلية لتحديد المواد غير القانونية أو المسيئة على نطاق واسع.