Cloudflare annuncia la disponibilità di AI Gateway

Cloudflare ha annunciato che AI Gateway è ora disponibile. Descritto come un’interfaccia unificata per gestire e scalare i carichi di lavoro dell’intelligenza artificiale generativa, AI Gateway consente agli sviluppatori di ottenere visibilità e controllo sulle applicazioni AI.

AI Gateway agisce come proxy tra i servizi e i fornitori di inferenze, indipendentemente da dove vengono eseguiti i modelli. Una singola riga di codice permette di sbloccare funzionalità potenti come caching, rate limiting e retries delle richieste. La piattaforma supporta molti provider di terze parti, inclusi OpenAI e Google Vertex AI.

Il dashboard mostra metriche dettagliate, come numero di richieste e costi associati. Le funzionalità del gateway sono gratuite su tutti i piani Cloudflare, con funzioni premium a pagamento in arrivo.