Guida rapida gateway OpenAI

Installa l'SDK standard OpenAI

Inizia aggiungendo la libreria client ufficiale all'ambiente del tuo progetto. Questo garantisce la compatibilità con gli endpoint standard che esponiamo. L'SDK gestisce automaticamente la serializzazione e le intestazioni di autenticazione, riducendo il codice ridondante nella tua implementazione.

• Python: pip install openai
• Node.js: npm install openai

Verifica che l'installazione venga completata senza conflitti di dipendenze. Il nostro gateway si aspetta payload JSON standard, quindi qualsiasi versione dell'SDK che supporti il /v1/chat/completions endpoint funzionerà correttamente.

Configura il tuo base_url e la chiave API

Indirizza l'istanza del tuo client al nostro endpoint gateway specifico per instradare le richieste attraverso il nostro modello senza filtri. Devi sostituire l'URL base predefinito e iniettare la tua chiave API unica ottenuta dal dashboard.

Le tue richieste ora avranno come destinazione https://api.gatewayopenai.com/v1 invece del provider standard. Questa modifica garantisce l'accesso al modello uncensored dedicato senza modificare la logica principale.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

L'autenticazione si basa su un'unica intestazione. Assicurati che la tua chiave sia attiva e non scaduta. Il gateway convalida questo token prima di elaborare qualsiasi token.

Invia la tua prima richiesta di chat completion

Esegui una semplice chiamata input-testo, output-testo per verificare la connettività e la qualità della risposta. Usa l'ID del modello uncensored per garantire che tu raggiunga il server corretto. Questo test conferma che la tua chiave API ha crediti sufficienti e che il tuo percorso di rete è libero.

Invia un oggetto messaggio standard. La risposta conterrà testo generato senza i tipici rifiuti del contenuto. Controlla il choices array per il contenuto generato.

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

Rivedi il tempo di risposta e l'utilizzo dei token. Questa richiesta di base stabilisce la fiducia nella connessione prima di scalare a prompt più complessi.

Abilita lo streaming e analizza l'utilizzo

Attiva lo streaming per ricevere i token in tempo reale tramite Server-Sent Events (SSE). Questo riduce la latenza percepita per gli utenti finali e consente il rendering progressivo di output lunghi. Imposta stream: true nei parametri della richiesta.

Analizza i chunk dello stream per estrarre le statistiche finali sull'utilizzo dei token. L'ultimo chunk contiene il conteggio completo dei token sia per l'input che per l'output. Questi dati sono fondamentali per la verifica accurata della fatturazione, poiché addebitiamo in base al token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gestisci le risposte parziali con grazia. Assicurati che il tuo client chiuda la connessione in modo pulito dopo l'arrivo dell'ultimo chunk per evitare perdite di risorse.

Utilizza tools, modalità JSON e parametri

Sfrutta il function calling e l'output JSON rigoroso per la generazione di dati strutturati. Abilita response_format con json_object per forzare risposte JSON valide dal modello. È essenziale per le integrazioni programmatiche.

Configura parametri come temperature e top_p per controllare la creatività. Regola max_tokens per limitare l'output; il valore predefinito è 2.048, ma puoi specificare fino a 16.000. La finestra di contesto supporta 100.000 token in totale.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Testa le definizioni degli strumenti con esempi semplici. Verifica che il modello aderisca allo schema fornito nella tua richiesta. Questo garantisce affidabilità nei flussi di lavoro automatizzati.

Limiti, errori e finestra di contesto

Monitora i tuoi limiti di frequenza e i codici di errore per mantenere un'integrazione stabile. Il gateway applica 300 richieste al minuto per chiave e consente 8 richieste concorrenti. Il superamento di questi limiti attiva un errore 429.

Gestisci tempestivamente gli errori di autenticazione (401) e il credito insufficiente (402). Un 401 indica una chiave API non valida o scaduta. Un 402 significa che il tuo credito prepagato è esaurito; ricarica tramite criptovalute per riprendere il servizio. Il limite del corpo della richiesta è di 8 MB.

La tua finestra di contesto copre 100.000 token includendo sia prompt che completamento. Pianifica il tuo budget di token di conseguenza per evitare il troncamento. Gli errori non consumano credito, proteggendo il tuo saldo durante i tentativi di nuovo.