Una publicación viral de Reddit resulta ser una fabricación generada por IA

Un usuario de Reddit que afirmaba ser un denunciante se volvió viral tras alegar fraude por parte de una aplicación de entrega de comida, afirmando que la empresa explotaba a sus conductores y usuarios. La publicación ganó una tracción masiva, acumulando 87,000 votos positivos en Reddit antes de ser compartida en X, donde recibió 208,000 “me gusta” y 36.8 millones de impresiones. En la publicación, el supuesto denunciante escribió que, si bien los usuarios a menudo sospechan que los algoritmos están manipulados en su contra, la realidad es mucho más deprimente que sus teorías de conspiración. Las afirmaciones parecieron creíbles inicialmente para muchos lectores porque DoorDash fue demandada por robar propinas a los conductores, lo que resultó en un acuerdo de USD 16.75 millones. Sin embargo, la publicación viral ha sido expuesta desde entonces como una fabricación generada por IA.

Casey Newton, un periodista que investigó el engaño para la publicación Platformer, detalló cómo el autor intentó engañarlo utilizando credenciales y documentos falsos. El usuario compartió lo que parecía ser una credencial de empleado y un documento interno falso de 18 páginas. Este documento describía el supuesto uso de inteligencia artificial por parte de la empresa para calcular un “puntaje de desesperación” (desperation score), un término utilizado en el documento falso para describir cómo la aplicación evaluaba a los conductores individuales. Newton señaló que el nivel de detalle de los materiales los hacía muy convincentes. “Durante la mayor parte de mi carrera hasta este momento, el documento compartido conmigo por el denunciante habría parecido muy creíble, en gran parte porque habría tomado mucho tiempo elaborarlo”, escribió Newton. Para verificar las afirmaciones, Newton utilizó Gemini de Google y su herramienta de marca de agua SynthID para confirmar que la imagen de la credencial era sintética.

El incidente destaca una tendencia más amplia de uso de medios sintéticos para manipular el discurso en línea. Max Spero, fundador de Pangram Labs, una empresa que fabrica una herramienta de detección de texto generado por IA, explicó que el contenido de baja calidad generado por IA (a menudo denominado “AI slop”) ha empeorado en internet. Spero atribuyó este aumento en parte al mayor uso de modelos de lenguaje extensos (LLM), junto con otros factores. Señaló que algunas empresas ahora pagan por interacción orgánica en plataformas como Reddit utilizando publicaciones generadas por IA para mencionar nombres de marcas específicas, lo que hace cada vez más difícil para los usuarios y periodistas distinguir las cuentas reales de las campañas automatizadas.

Por qué importa

La prevalencia de herramientas de IA ha hecho que la verificación de hechos requiera aún más rigor, como lo demuestra un engaño viral en Reddit que utilizó documentos e imágenes generados por IA para engañar a un periodista.