Anthropic prueba el comercio entre agentes de IA en un piloto interno

Anthropic ha llevado a cabo un experimento piloto interno llamado Project Deal, estableciendo un mercado clasificado diseñado para el comercio entre agentes, una configuración donde los agentes de IA actuaron tanto como compradores como vendedores. La prueba permitió que estos agentes representaran a los participantes para negociar y cerrar acuerdos reales por bienes reales y dinero real.

El experimento piloto operó bajo los siguientes parámetros:

• Participantes: 69 empleados de Anthropic conformaron un grupo de participantes autoseleccionado.
• Presupuesto: Cada empleado recibió un presupuesto de USD 100, pagado mediante tarjetas de regalo, para comprar artículos a sus compañeros de trabajo.
• Transacciones: El piloto resultó en 186 acuerdos.
• Volumen: El valor total de las transacciones completadas alcanzó más de USD 4000.

Para estudiar la dinámica de estas negociaciones, Anthropic ejecutó cuatro mercados separados utilizando diferentes modelos. Uno de estos entornos fue real, lo que significa que cada participante estuvo representado por el modelo más avanzado de la empresa, y los acuerdos negociados se cumplieron realmente una vez concluido el experimento. Los otros tres mercados se llevaron a cabo con fines de estudio.

Según Anthropic, el experimento reveló que los usuarios representados por modelos más avanzados lograron resultados superiores en sus negociaciones. Sin embargo, los usuarios humanos no parecieron notar esta disparidad en el rendimiento. Este hallazgo genera preocupaciones sobre la aparición de brechas de calidad en los agentes. Como señaló Anthropic, una empresa de investigación de IA, “las personas en el lado perdedor podrían no darse cuenta de que están en desventaja”.

Anthropic caracterizó la iniciativa como un experimento piloto con un grupo de participantes autoseleccionado. A pesar del alcance limitado, la empresa declaró que le sorprendió lo bien que funcionó el proyecto. Curiosamente, las instrucciones iniciales dadas a los agentes de IA no parecieron afectar ni la probabilidad de una venta ni los precios finales negociados.

Por qué importa

El experimento de Anthropic destaca un punto ciego crítico en el comercio impulsado por IA: a medida que los agentes negocian en nuestro nombre, las disparidades en el rendimiento pueden crear brechas de calidad en los agentes que los usuarios no pueden detectar.