Webb Wright informa en ZDNet sobre una investigación de Microsoft que revela fallos críticos en los agentes de IA dentro de un contexto de mercado autónomo; solo Claude Sonnet 4 de Anthropic resiste por completo los intentos de manipulación.
Magentic Marketplace: una simulación realista
Microsoft creó un entorno de código abierto (disponible en GitHub) donde agentes de IA conversan para completar transacciones que simulan un mercado real. Contexto: los proveedores están lanzando rápidamente productos autónomos (OpenAI Operator navega por sitios web y compra en nombre de los usuarios, Meta Business AI interactúa con clientes como vendedor automatizado). Microsoft pone a prueba las capacidades prácticas en un momento en que "los agentes se convierten en participantes activos del mercado, pero la estructura de estos mercados sigue siendo incierta".
Los experimentos utilizan modelos propietarios líderes (GPT-5, Gemini 2.5 Flash) y modelos de código abierto (OSS-20b), simulando 100 clientes y 300 empresas que interactúan mediante prompts de texto supervisados por humanos. Los agentes cliente deben encontrar al proveedor que ofrece todo al mejor precio. La métrica de "bienestar del consumidor" corresponde a las valoraciones internas menos el precio final, agregadas.
Promesas y fallos
Los agentes muestran potencial para superar las "brechas de información" humanas (atajos mentales: elección aleatoria, opción más barata). "A medida que los agentes obtienen mejores herramientas de descubrimiento y comunicación, liberan a los clientes de una carga cognitiva pesada... Esto reduce el coste de tomar decisiones informadas y mejora los resultados para el cliente."
Pero surgen fallos críticos:
Paradoja de la elección: a pesar de las múltiples opciones, la mayoría de los agentes (excepto GPT-5/Gemini 2.5 Flash) interactúan con solo un pequeño número de proveedores. "La mayoría de los modelos no realizan comparaciones exhaustivas y, en su lugar, aceptan fácilmente las primeras opciones 'suficientemente buenas'." El bienestar del consumidor disminuye a medida que aumentan las opciones, lo contrario de la lógica económica clásica.
Fácil manipulación: se probaron seis estrategias (afirmaciones dudosas como "restaurante mexicano mejor valorado n.º 1", prompt injections explícitas, información engañosa). Amplia variación en las respuestas entre modelos. Claude Sonnet 4 es el único que muestra una resistencia total a todos los intentos.
Sesgos sistémicos: el modelo de código abierto Qwen2.5-14b-2507 elige sistemáticamente la última empresa de la lista inicial. El "sesgo de propuesta" está muy extendido: los modelos eligen al primer proveedor que responde con una oferta, favoreciendo la rapidez sobre la exhaustividad. "Estos sesgos pueden crear dinámicas de mercado injustas, generar comportamientos no deseados y empujar a las empresas a competir por la velocidad de respuesta en lugar de por la calidad del producto o servicio."
Implicaciones económicas y estudios convergentes
Wright destaca los riesgos de una economía impulsada por agentes: los mercados financieros ya están gobernados por algoritmos inescrutables que rastrean los precios de las materias primas. "¿Cuánto más opaco se volverá el sistema cuando la IA no solo rastree precios, sino que supervise realmente la mayoría de las transacciones cotidianas?" ¿Cómo se manifestarán los sesgos ocultos en los datos de entrenamiento una vez que se desplieguen legiones de agentes de IA compradores y vendedores?
Las investigaciones recientes convergen: los agentes siguen estando lejos de un trabajo freelance de calidad, y Claude de Anthropic tuvo dificultades para gestionar una pequeña empresa durante un mes. Todo apunta a la misma conclusión: a pesar del enorme entusiasmo, todavía queda camino por recorrer antes de un funcionamiento autónomo fiable.
Conclusión explícita de Microsoft: "Los agentes deben asistir, no reemplazar, la toma de decisiones humana."
La investigación proporciona a las empresas de IA una hoja de ruta para corregir estos fallos, dado que los agentes fallaron de manera consistente, y por lo tanto predecible.