Webb Wright riporta su ZDNet una ricerca Microsoft che rivela difetti critici negli agenti IA in un contesto di marketplace autonomo; solo Claude Sonnet 4 di Anthropic resiste completamente ai tentativi di manipolazione.
Magentic Marketplace: una simulazione realistica
Microsoft ha creato un ambiente open-source (disponibile su GitHub) in cui gli agenti IA conversano per completare transazioni simulando un marketplace reale. Contesto: i fornitori stanno rapidamente lanciando prodotti autonomi (OpenAI Operator naviga sui siti web e acquista per conto degli utenti, Meta Business AI interagisce con i clienti come venditore automatizzato). Microsoft testa le capacità pratiche in un momento in cui "gli agenti diventano partecipanti attivi del mercato, ma la struttura di questi mercati rimane incerta."
Gli esperimenti utilizzano modelli proprietari di punta (GPT-5, Gemini 2.5 Flash) e modelli open-source (OSS-20b), simulando 100 clienti e 300 aziende che interagiscono tramite prompt testuali supervisionati da umani. Gli agenti clienti devono trovare il fornitore che offre tutto al prezzo migliore. La metrica "consumer welfare" corrisponde alle valutazioni interne meno il prezzo finale, aggregate.
Promesse e difetti
Gli agenti mostrano potenziale nel superare le "lacune informative" umane (scorciatoie mentali: scelta casuale, opzione più economica). "Man mano che gli agenti acquisiscono strumenti migliori per la scoperta e la comunicazione, sollevano i clienti da un pesante carico cognitivo... Questo riduce il costo di prendere decisioni informate e migliora i risultati per i clienti."
Ma emergono difetti critici:
Paradosso della scelta: nonostante le molteplici opzioni, la maggior parte degli agenti (eccetto GPT-5/Gemini 2.5 Flash) interagisce solo con un piccolo numero di fornitori. "La maggior parte dei modelli non conduce confronti esaustivi e accetta invece facilmente le prime opzioni 'abbastanza buone'." Il consumer welfare diminuisce all'aumentare delle opzioni disponibili — l'opposto della logica economica classica.
Facile manipolazione: sei strategie testate (affermazioni dubbie come "ristorante messicano #1", prompt injection espliciti, informazioni fuorvianti). Ampia variazione nelle risposte tra i modelli. Claude Sonnet 4 è l'unico a mostrare resistenza totale a tutti i tentativi.
Bias sistemici: il modello open-source Qwen2.5-14b-2507 sceglie sistematicamente l'ultima azienda nella lista iniziale. Il "proposal bias" è diffuso: i modelli scelgono il primo fornitore che risponde con un'offerta, privilegiando la velocità rispetto all'accuratezza. "Questi bias possono creare dinamiche di mercato inique, generare comportamenti non intenzionali e spingere le aziende a competere sulla velocità di risposta piuttosto che sulla qualità del prodotto o del servizio."
Implicazioni economiche e studi convergenti
Wright evidenzia i rischi di un'economia guidata dagli agenti: i mercati finanziari sono già governati da algoritmi imperscrutabili che tracciano i prezzi delle materie prime. "Quanto più opaco diventerà il sistema quando l'IA non si limiterà a tracciare i prezzi ma supervisionerà effettivamente la maggior parte delle transazioni quotidiane?" Come si manifesteranno i bias nascosti nei dati di addestramento una volta che legioni di agenti IA acquirenti e venditori saranno dispiegate?
Le ricerche recenti convergono: gli agenti restano lontani da un lavoro freelance di qualità, e Claude di Anthropic ha faticato a gestire una piccola impresa per un mese. Tutto punta alla stessa conclusione: nonostante l'enorme hype, c'è ancora strada da fare prima di un funzionamento autonomo affidabile.
Conclusione esplicita di Microsoft: "Gli agenti dovrebbero assistere, non sostituire, il processo decisionale umano."
La ricerca fornisce alle aziende IA una roadmap per correggere questi difetti, poiché gli agenti hanno fallito in modo costante — e quindi prevedibile.