AI Gateway

Il team piattaforma di Uber elenca AI Gateway tra i sei componenti dell'architettura zero trust pubblicata da Matt Mathew e cinque colleghi il 21 maggio 2026, insieme ad Agent Registry, AI Agent Mesh, STS, MCP Gateway e SPIRE. Il suo ruolo in quello stack è circoscritto e specifico: media le chiamate LLM in uscita e redige i dati sensibili tramite AI Guard. Il gateway si colloca al confine in cui un agente interno smette di parlare con i sistemi Uber e comincia a parlare con un modello esterno, esattamente il punto in cui la catena di attori e il token a hop singolo smettono di proteggere qualsiasi cosa.

Lo stesso nome di componente ricorre in due contesti molto diversi. Lei Zhang, che dirige l'infrastruttura tecnologica di Bloomberg, descrive un gateway AI centrale come parte della piattaforma "paved path" al servizio di 9.000 ingegneri, affiancato a un deployment PaaS semplificato e a un hub MCP per condividere connettori. Cloudflare integra AI Gateway in VibeSDK, dove gestisce l'accesso unificato a OpenAI, Anthropic e Google, il caching delle risposte per ridurre i costi di inferenza e l'osservabilità centralizzata su richieste, token e tempi di risposta.

Tre organizzazioni, tre motivazioni: Uber vuole l'applicazione della sicurezza, Bloomberg vuole un percorso predefinito governabile, Cloudflare vuole routing multi-modello e controllo dei costi. La convergenza avviene sul punto di strozzatura stesso. Nel momento in cui gli agenti chiamano i modelli da migliaia di luoghi diversi, qualcuno deve possedere l'unica porta attraverso cui passano quelle chiamate, e la questione di a cosa serva quella porta resta irrisolta.