Reddit تعلن عن انخفاض بنسبة 20٪ في التعرض للمحتوى المزعج بفضل نماذج اللغات الكبيرة

تستخدم منصة Reddit نماذج اللغات الكبيرة (LLMs) للحد من المحتوى المزعج عبر الإنترنت، حيث توظف الذكاء الاصطناعي لمكافحة المحتوى المؤتمت. ومع تزايد سهولة الوصول إلى نماذج لغوية قوية، أصبح بإمكان الجهات الفاعلة السيئة توزيع المحتوى المزعج ومحتوى الروبوتات (البوتات) بكفاءة أكبر، مما يمثل تحدياً متزايداً للمنصات عبر الإنترنت. واستجابةً لذلك، طورت Reddit أدوات تستخدم نماذج اللغات الكبيرة لتقليل المحتوى المزعج، والذي يتم إنشاء الكثير منه بواسطة نماذج اللغات الكبيرة في المقام الأول. ووفقاً للشركة، تحظر المنصة الآن 23 مليون مشاهدة للمحتوى المزعج يومياً. بالإضافة إلى ذلك، تفيد Reddit بأنها ترصد نحو 25,000 منشور وتعليق مزعج جديد كل يوم. وعلى الرغم من أن منصات التواصل الاجتماعي قد طورت أدوات مؤتمتة للحد من المحتوى المزعج لسنوات، إلا أن Reddit تشير إلى أن هذه الأنظمة المحدثة ترصد المحتوى المزعج بمعدل أعلى.

وتعزو الشركة هذه الكفاءة المتزايدة إلى قدرات التعرف على الأنماط التي تتمتع بها نماذج الذكاء الاصطناعي الحديثة. وفي تدوينة للشركة، ذكرت Reddit: “نحن نستفيد من نماذج اللغات الكبيرة لرصد الأنماط الدقيقة والمنسقة للغاية للسلوك الزائف والضجيج الاصطناعي التي كانت الأنظمة القديمة تغفل عنها سابقاً”. ومن خلال تحديد هذه الأنماط المعقدة، نجحت المنصة في الحد من وصول المحتوى المزعج المؤتمت. وتحديداً، تدّعي Reddit أنها خفضت تعرض المستخدمين للمحتوى المزعج بنسبة 20٪ في الفترة من يناير إلى مارس مقارنة بالأشهر الثلاثة السابقة، مما يوضح التأثير الفوري لدمج نماذج اللغات الكبيرة في نظام الإشراف الخاص بها. ويتم قياس هذا الانخفاض مقارنة بالأشهر الثلاثة السابقة، مما يسلط الضوء على تحول ملموس في جودة المحتوى.

يأتي هذا الانتشار جنباً إلى جنب مع تحولات أوسع في القطاع، حيث تضع منصات اجتماعية أخرى سياسات متميزة لإدارة المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وتسمح منصات مثل YouTube وMeta وInstagram حالياً للمستخدمين بنشر محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي بشرط الإفصاح عن ذلك، بينما قدمت TikTok ميزات تسمح للمستخدمين بالتحكم في كمية المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي الذي يشاهدونه. ومع ذلك، وبينما تسعى المنصات إلى اكتشاف المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بشكل أسرع، يشير الخبراء إلى أن الأدوات المؤتمتة وحدها غير كافية. ويؤكد خبراء المنصات أن الإشراف على المحتوى بواسطة الذكاء الاصطناعي يجب أن يقترن بالإشراف البشري لتحقيق أكثر النتائج فعالية. ويظل هذا النهج الهجين حاسماً لتحديد المحتوى المخالف، مثل خطاب الكراهية، والإبلاغ عنه بدقة، وهو ما يتطلب غالباً سياقاً بشرياً لتقييمه.

لماذا يهم

نظراً لأن سهولة الوصول إلى نماذج اللغات الكبيرة تجعل إنشاء المحتوى المزعج عبر الإنترنت أسهل، فإن المنصات تضطر بشكل متزايد إلى اعتماد أدوات إشراف مدعومة بالذكاء الاصطناعي للحفاظ على جودة المحتوى. ومع ذلك، فإن الحفاظ على سلامة المنصة وتحديد الانتهاكات المعقدة بدقة سيستمر في تطلب التوازن بين الأنظمة المؤتمتة والرقابة البشرية.