AI Gateway

Uber's Plattformteam führt AI Gateway als eine von sechs Komponenten der Zero-Trust-Architektur auf, die Matt Mathew und fünf Kollegen am 21. Mai 2026 veröffentlicht haben, neben der Agent Registry, dem AI Agent Mesh, dem STS, dem MCP Gateway und SPIRE. Ihre Rolle in diesem Stack ist eng und spezifisch: Sie vermittelt ausgehende LLM-Aufrufe und redigiert sensible Daten über AI Guard. Das Gateway sitzt an der Grenze, an der ein interner Agent aufhört, mit Uber-Systemen zu sprechen, und beginnt, mit einem externen Modell zu sprechen, also genau dort, wo die Actor Chain und das Single-Hop-Token nichts mehr schützen.

Derselbe Komponentenname taucht an zwei sehr unterschiedlichen Stellen wieder auf. Lei Zhang, der bei Bloomberg die Technologieinfrastruktur leitet, beschreibt ein zentrales AI Gateway als Teil des "paved path"-Plattform, die 9.000 Ingenieure bedient, neben einer vereinfachten PaaS-Bereitstellung und einem MCP-Hub zum Teilen von Connectors. Cloudflare liefert AI Gateway innerhalb von VibeSDK aus, wo es den einheitlichen Zugriff auf OpenAI, Anthropic und Google übernimmt, Antworten cacht, um Inferenzkosten zu senken, und eine zentrale Beobachtbarkeit für Anfragen, Tokens und Antwortzeiten bereitstellt.

Drei Organisationen, drei Motive: Uber will Sicherheitsdurchsetzung, Bloomberg will einen kontrollierbaren Standardpfad, Cloudflare will Multi-Modell-Routing und Kostenkontrolle. Die Konvergenz liegt beim Engpass selbst. Sobald Agenten Modelle von Tausenden von Stellen aus aufrufen, muss jemand die eine Tür besitzen, durch die diese Aufrufe laufen, und die Frage, wozu diese Tür da ist, bleibt ungeklärt.