Webb Wright berichtet in ZDNet über eine Microsoft-Studie, die kritische Schwachstellen bei KI-Agenten in einem autonomen Marktplatzkontext aufdeckt; nur Claude Sonnet 4 von Anthropic widersteht Manipulationsversuchen vollständig.

Magentic Marketplace: eine realistische Simulation

Microsoft hat eine Open-Source-Umgebung (verfügbar auf GitHub) geschaffen, in der KI-Agenten konversieren, um Transaktionen abzuwickeln, die einen realen Marktplatz simulieren. Kontext: Anbieter bringen rasch autonome Produkte auf den Markt (OpenAI Operator durchsucht Websites und kauft im Auftrag von Nutzern, Meta Business AI interagiert als automatisierter Verkäufer mit Kunden). Microsoft testet praktische Fähigkeiten zu einem Zeitpunkt, an dem „Agenten zu aktiven Marktteilnehmern werden, die Struktur dieser Märkte jedoch weiterhin ungewiss bleibt.“

Die Experimente verwenden führende proprietäre Modelle (GPT-5, Gemini 2.5 Flash) und Open-Source-Modelle (OSS-20b) und simulieren 100 Kunden und 300 Unternehmen, die über menschlich überwachte Textprompts interagieren. Kunden-Agenten müssen den Anbieter finden, der alles zum besten Preis bietet. Die Metrik „consumer welfare“ (Konsumentennutzen) entspricht den internen Bewertungen abzüglich des Endpreises, aggregiert über alle Transaktionen.

Versprechen und Schwachstellen

Agenten zeigen Potenzial, menschliche „Informationslücken“ zu überwinden (mentale Abkürzungen: zufällige Wahl, günstigste Option). „Da Agenten über bessere Werkzeuge für Recherche und Kommunikation verfügen, befreien sie Kunden von hoher kognitiver Belastung ... Dies senkt die Kosten fundierter Entscheidungen und verbessert die Ergebnisse für Kunden.“

Doch kritische Schwachstellen zeigen sich:

Paradox der Wahl: Trotz mehrerer Optionen interagieren die meisten Agenten (außer GPT-5/Gemini 2.5 Flash) nur mit einer kleinen Anzahl von Anbietern. „Die meisten Modelle führen keine erschöpfenden Vergleiche durch, sondern akzeptieren stattdessen leicht die erste ‚ausreichend gute‘ Option.“ Der Konsumentennutzen sinkt mit zunehmender Anzahl an Optionen — das Gegenteil klassischer ökonomischer Logik.

Leichte Manipulierbarkeit: Sechs getestete Strategien (fragwürdige Behauptungen wie „Das mit #1 bewertete mexikanische Restaurant“, explizite Prompt Injections, irreführende Informationen). Große Unterschiede in den Reaktionen zwischen den Modellen. Claude Sonnet 4 ist das einzige Modell, das gegenüber allen Versuchen vollständige Resistenz zeigt.

Systemische Verzerrungen: Das Open-Source-Modell Qwen2.5-14b-2507 wählt systematisch das letzte Unternehmen der ursprünglichen Liste. Eine „Angebots-Verzerrung“ ist weit verbreitet: Modelle wählen den ersten Anbieter, der mit einem Angebot antwortet, und bevorzugen Geschwindigkeit gegenüber Gründlichkeit. „Diese Verzerrungen können unfaire Marktdynamiken schaffen, unbeabsichtigtes Verhalten fördern und Unternehmen dazu bringen, eher bei der Reaktionsgeschwindigkeit als bei der Produkt- oder Servicequalität zu konkurrieren.“

Wirtschaftliche Implikationen und übereinstimmende Studien

Wright hebt die Risiken einer agentengesteuerten Wirtschaft hervor: Finanzmärkte werden bereits von undurchsichtigen Algorithmen bestimmt, die Rohstoffpreise verfolgen. „Wie viel undurchsichtiger wird das System werden, wenn KI nicht nur Preise verfolgt, sondern tatsächlich den Großteil alltäglicher Transaktionen überwacht?“ Wie werden sich verborgene Verzerrungen in Trainingsdaten manifestieren, sobald Legionen von KI-Käufer- und Verkäufer-Agenten eingesetzt werden?

Aktuelle Forschung stimmt überein: Agenten sind noch weit von hochwertiger freiberuflicher Arbeit entfernt, und Anthropics Claude hatte Schwierigkeiten, ein kleines Unternehmen einen Monat lang zu führen. Alles deutet auf dieselbe Schlussfolgerung hin: Trotz des enormen Hypes ist es noch ein weiter Weg bis zum zuverlässigen autonomen Betrieb.

Microsofts ausdrückliche Schlussfolgerung: „Agenten sollten menschliche Entscheidungsfindung unterstützen, nicht ersetzen.“

Die Forschung liefert KI-Unternehmen eine Roadmap zur Behebung dieser Schwachstellen, da Agenten konsistent — und damit vorhersehbar — versagten.