Un endpoint per ogni modello di IA.

Cosa fa davvero il gateway a una richiesta

Scambia la chiave e inoltra i byte. Business AI conserva le vostre chiavi dei provider cifrate, abbina la chiave Business AI in entrata al vostro workspace, allega la vera credenziale del provider e passa la richiesta a monte invariata.

I corpi di richiesta e risposta non vengono mai analizzati né rimodellati. È una decisione di design deliberata, ed è il motivo per cui le funzioni dei provider che di solito si rompono dietro un proxy continuano a funzionare: uso di strumenti, visione, caching dei prompt, audio, caricamento di file ed endpoint batch passano tutti, perché non stiamo nel mezzo a riscrivere JSON.

La conseguenza pratica: un provider che rilascia una nuova funzione API non richiede alcun lavoro da parte nostra. Solo tre piccoli fatti sono specifici del provider: dove vive l’upstream, quale header porta la chiave, e come rileggere l’uso dei token.

Quali provider sono live

Tre provider sono collegati via HTTP oggi, ognuno con il proprio upstream e il proprio header di autenticazione.

Aggiungerne un quarto è una voce nel registro dei provider più una riga di prezzo. Non è una migrazione, e non tocca misurazione, limiti o fatturazione, perché stanno a valle del registro.

Tre modi per chiamarlo

Passthrough nativo

ALL /api/gw/:provider/* inoltra byte grezzi. Puntate qui l’SDK del provider e mantenete l’intera superficie del provider, streaming ed endpoint non-chat inclusi.

Unificato, compatibile OpenAI

POST /api/ai/v1/chat/completions accetta una sola forma di richiesta e la traduce per provider: una sola integrazione raggiunge tutti e tre. Solo chat, e senza streaming in questa versione.

Voce in tempo reale

Un proxy WebSocket per OpenAI Realtime e Gemini Live. Anthropic manca da questa lista perché Anthropic attualmente non offre un prodotto WebSocket in tempo reale, non perché non sia supportato.

Cosa succede quando un provider si ferma

Impostate una lista di priorità una volta per workspace. Un provider senza chiave configurata viene saltato. Un provider che restituisce un 5xx viene saltato e la chiamata passa al successivo.

Il failover avviene prima che qualsiasi byte torni al vostro prodotto: il chiamante vede una risposta pulita invece di un errore a metà streaming da annullare.

Gli errori che sono davvero vostri non attivano il failover. Un 402 per budget superato, un 429 per rate limiting e gli errori 4xx propagati vi vengono restituiti così come sono, perché ritentarli su un altro provider nasconderebbe un problema reale spendendo denaro.

Chiavi, scope e rotazione

I prodotti si autenticano con una chiave gateway Business AI invece che con una chiave del provider. La chiave è salvata come hash: un dump del database non produce una credenziale funzionante.

Una chiave può portare uno scope di prodotto, e ogni chiamata fatta con essa viene attribuita a quel prodotto. È ciò che rende possibile il report dei costi per prodotto senza chiedere a nessuno di etichettare le proprie richieste.

La rotazione emette una sostituta mentre la vecchia chiave continua a funzionare fino a una scadenza: una rotazione è un cambiamento pianificato, non un’interruzione coordinata su ogni servizio che la detiene.