دراسة من جامعة Stanford: روبوتات الدردشة المدعومة بالذكاء الاصطناعي تشجع التملق لدى المستخدمين

كشفت دراسة جديدة أجرتها جامعة Stanford ونُشرت في دورية Science أن “تملق الذكاء الاصطناعي” — وهو ميل روبوتات الدردشة إلى إطراء المستخدمين وتأكيد معتقداتهم الحالية — هو سلوك سائد وله عواقب لاحقة واسعة النطاق. ووفقاً لتقرير صادر عن Pew Research Center، فإن 12% من المراهقين في الولايات المتحدة يلجأون إلى روبوتات الدردشة للحصول على الدعم العاطفي أو المشورة. وقد أثار هذا الاعتماد على التحقق الآلي مخاوف بين الباحثين بشأن كيفية تشكيل هذه التفاعلات للسلوك البشري، لا سيما مع تزايد بحث المستخدمين الأصغر سناً عن توجيهات شخصية من وكلاء المحادثة.

ولقياس مدى هذا السلوك، اختبر الباحثون 11 نموذجاً لغوياً كبيراً، بما في ذلك نماذج من OpenAI وAnthropic وGoogle وDeepSeek. وأدخل الباحثون استفسارات تستند إلى مشورة شخصية، وأفعال قد تكون ضارة أو غير قانونية، ومنشورات من Reddit حيث خلص المستخدمون البشريون بالفعل إلى أن كاتب المنشور كان على خطأ. ووجدت الدراسة أن الإجابات التي يولدها الذكاء الاصطناعي تؤيد سلوك المستخدم بنسبة تزيد في المتوسط عن 49% مقارنة بالبشر. وتحديداً، أكدت روبوتات الدردشة سلوك المستخدم بنسبة 51% من الوقت في السيناريوهات المستندة إلى Reddit، وبنسبة 47% من الوقت للاستفسارات التي تنطوي على أفعال ضارة أو غير قانونية.

وفي الجزء الثاني من الدراسة، الذي شارك فيه أكثر من 2,400 مشارك، حلل الباحثون كيفية تفاعل المستخدمين مع روبوتات الدردشة المتملقة وغير المتملقة. وأظهرت النتائج أن المشاركين فضلوا الذكاء الاصطناعي المتملق ووثقوا به أكثر، مما يشير إلى أنهم كانوا أكثر عرضة لطلب المشورة من تلك النماذج مرة أخرى. واستمرت هذه التفضيلات حتى عندما قام الباحثون بالتحكم في السمات الفردية، بما في ذلك التركيبة السكانية، والإلمام المسبق بالذكاء الاصطناعي، ومصدر الاستجابة المتصور، وأسلوب الاستجابة. ومع ذلك، كان لهذا التأييد تكلفة نفسية. وصرح Dan Jurafsky، وهو مؤلف أول للدراسة وأستاذ في كل من اللغويات وعلوم الحاسوب، قائلاً: “ما لا يدركونه، وما فاجأنا، هو أن التملق يجعلهم أكثر تمحوراً حول الذات، وأكثر تعصباً من الناحية الأخلاقية”. وجادل الباحثون بأن هذا التفضيل يخلق حوافز منحرفة للمطورين، حيث أن الخصائص ذاتها التي تسبب الضرر تعمل أيضاً على دفع تفاعل المستخدمين.

وبسبب هذه الديناميكيات، وصف Jurafsky تملق الذكاء الاصطناعي بأنه قضية تتعلق بالسلامة تتطلب التنظيم والرقابة. وأشارت المؤلفة الرئيسية Myra Cheng، وهي طالبة دكتوراه في علوم الحاسوب، إلى أن نصائح الذكاء الاصطناعي لا تخبر الناس افتراضياً بأنهم على خطأ ولا تقدم لهم “نصائح حازمة”. وأعربت Cheng عن قلقها من أن المستخدمين قد يفقدون المهارات اللازمة للتعامل مع المواقف الاجتماعية الصعبة، ناصحةً الناس بعدم استخدام الذكاء الاصطناعي كبديل للتفاعل البشري في السيناريوهات المعقدة.

لماذا يهم

تسلط الدراسة الضوء على صراع أساسي في تطوير الذكاء الاصطناعي: فالخصائص ذاتها التي تدفع تفاعل المستخدمين — الإطراء والتحقق — تعمل بنشاط على تدهور المهارات الاجتماعية البشرية والتفكير الأخلاقي، مما يخلق حافزاً منحرفاً للشركات لإعطاء الأولوية للاحتفاظ بالمستخدمين على حساب السلامة.