Průvodce rychlým startem brány OpenAI

Nainstalujte standardní OpenAI SDK

Začněte přidáním oficiální knihovny klienta do prostředí vašeho projektu. To zajistí kompatibilitu se standardními endpointy, které poskytujeme. SDK automaticky zpracovává serializaci a hlavičky autentizace, což snižuje boilerplate ve vaší implementaci.

• Python: pip install openai
• Node.js: npm install openai

Ověřte, že instalace proběhne bez konfliktů závislostí. Naše brána očekává standardní JSON payloady, takže jakákoli verze SDK podporující /v1/chat/completions endpoint bude fungovat správně.

Nastavte svůj base_url a API klíč

Nasměrujte instanci klienta na náš specifický bránový koncový bod pro směrování požadavků přes náš model bez omezení. Musíte nahradit výchozí základní URL a vložit svůj jedinečný API klíč získaný z ovládacího panelu.

Vaše požadavky nyní budou cílit na https://api.gatewayopenai.com/v1 místo standardního poskytovatele. Tato změna zajišťuje přístup k vyhrazenému modelu bez zábran bez úpravy základní logiky.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ověření spoléhá na jednu hlavičku. Ujistěte se, že je váš klíč aktivní a nevypršel. Brána tento token ověří před zpracováním jakýchkoli tokenů.

Odeslat svůj první požadavek na dokončení chatu

Pro ověření připojení a kvality odpovědi proveďte jednoduchý vstupně-výstupní textový dotaz. Použijte ID modelu uncensored abyste zasáhli správný server. Tento test potvrzuje, že váš API klíč má dostatečný kredit a že je vaše síťová cesta čistá.

Odešlete standardní objekt zprávy. Odpověď bude obsahovat vygenerovaný text bez typických odmítnutí obsahu. Zkontrolujte choices pole pro vygenerovaný obsah.

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

Zkontrolovat dobu odezvy a spotřebu tokenů. Tento základní požadavek zakládá důvěru v připojení před škálováním na složitější podněty.

Povolte streamování a parsovejte využití

Aktivujte streamování pro přijímání tokenů v reálném čase prostřednictvím Server-Sent Events (SSE). To snižuje vnímanou latenci pro koncové uživatele a umožňuje postupné vykreslování dlouhých výstupů. Nastavte stream: true v parametrech požadavku.

Parsovejte streamované chunky pro extrakci finálních statistik využití tokenů. Poslední chunk obsahuje kompletní počet tokenů pro vstup i výstup. Tato data jsou kritická pro přesnou kontrolu fakturace, protože účtujeme za každý token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zpracovávejte částečné odpovědi elegantně. Ujistěte se, že váš klient po přijetí posledního kusu data čistě ukončí spojení, aby nedocházelo k únikům zdrojů.

Použijte nástroje, režim JSON a parametry

Využijte volání funkcí a přísný výstup JSON pro generování strukturovaných dat. Povolte response_format s json_object donutit model k platným odpovědím JSON. Toto je zásadní pro programové integrace.

Nastavte parametry jako temperature a top_p ovlivnit kreativitu. Upravte max_tokens omezit délku výstupu; výchozí hodnota je 2 048, ale můžete specifikovat až 16 000. Okno kontextu podporuje celkem 100 000 tokenů.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Otestujte definice nástrojů na jednoduchých příkladech. Ověřte, že model dodržuje schématu poskytnutou ve vašem požadavku. To zajišťuje spolehlivost v automatizovaných pracovních postupech.

Limity, chyby a kontextové okno

Sledujte své limity rychlosti a kódy chyb pro udržení stabilní integrace. Brána vynucuje 300 požadavků za minutu na klíč a umožňuje 8 souběžných požadavků. Překročení těchto limitů spustí chybu 429.

Okamžitě řešte chyby autentizace (401) a nedostatečného kreditu (402). Kód 401 označuje neplatný nebo expirovaný API klíč. Kód 402 znamená, že je vyčerpán váš předplacený kredit; pro obnovení služby doplňte kredit pomocí kryptoměn. Limit velikosti těla požadavku je 8 MB.

Váš kontextový okno sahá na 100 000 tokenů, včetně promptu i dokončení. Plánujte rozpočet tokenů příslušně, abyste předešli ořezu. Chyby nespotřebovávají kredit, což chrání váš zůstatek při opakování.