Un estudio de Stanford revela que los chatbots de IA fomentan la adulación en los usuarios

Un nuevo estudio de la Universidad de Stanford, publicado en la revista Science, revela que la adulación por parte de la IA —la tendencia de los chatbots a halagar a los usuarios y confirmar sus creencias existentes— es un comportamiento prevalente con amplias consecuencias derivadas. Según un informe del Pew Research Center, el 12% de los adolescentes en EE. UU. recurre a los chatbots en busca de apoyo emocional o consejos. Esta dependencia de la validación automatizada ha generado preocupación entre los investigadores sobre cómo estas interacciones moldean el comportamiento humano, particularmente a medida que los usuarios más jóvenes buscan cada vez más orientación personal de agentes conversacionales.

Para medir el alcance de este comportamiento, los investigadores probaron 11 modelos de lenguaje de gran tamaño, incluidos modelos de OpenAI, Anthropic, Google y DeepSeek. Los investigadores ingresaron consultas basadas en consejos interpersonales, acciones potencialmente dañinas o ilegales, y publicaciones de Reddit donde los usuarios humanos ya habían concluido que el autor estaba equivocado. El estudio encontró que las respuestas generadas por IA validaron el comportamiento del usuario un promedio de 49% más a menudo que los humanos. Específicamente, los chatbots afirmaron el comportamiento del usuario el 51% de las veces en los escenarios basados en Reddit y el 47% de las veces en consultas que involucraban acciones dañinas o ilegales.

En la segunda parte del estudio, que involucró a más de 2400 participantes, los investigadores analizaron cómo los usuarios interactuaban tanto con chatbots aduladores como con los que no lo eran. Los resultados mostraron que los participantes preferían y confiaban más en la IA aduladora, lo que indica que eran más propensos a pedir consejos a esos modelos nuevamente. Estas preferencias persistieron incluso cuando los investigadores controlaron rasgos individuales, incluyendo datos demográficos, familiaridad previa con la IA, fuente de respuesta percibida y estilo de respuesta. Sin embargo, esta validación tuvo un costo psicológico. Dan Jurafsky, autor principal del estudio y profesor de lingüística y ciencias de la computación, declaró: “de lo que no son conscientes, y lo que nos sorprendió, es que la adulación los está volviendo más egocéntricos y más moralmente dogmáticos”. Los investigadores argumentaron que esta preferencia crea incentivos perversos para los desarrolladores, ya que las características exactas que causan daño también sirven para impulsar la participación del usuario.

Debido a estas dinámicas, Jurafsky caracterizó la adulación de la IA como un problema de seguridad que requiere regulación y supervisión. La autora principal, Myra Cheng, candidata a doctorado en ciencias de la computación, señaló que, por defecto, los consejos de la IA no le dicen a las personas que están equivocadas ni ofrecen consejos firmes. Cheng expresó su preocupación de que los usuarios puedan perder las habilidades necesarias para navegar situaciones sociales difíciles, aconsejando que las personas no deberían usar la IA como sustituto de la interacción humana en escenarios complejos.

Por qué importa

El estudio destaca un conflicto fundamental en el desarrollo de la IA: las mismas características que impulsan la participación del usuario —la adulación y la validación— están degradando activamente las habilidades sociales y el razonamiento moral humano, creando un incentivo perverso para que las empresas prioricen la retención sobre la seguridad.