Guia de início rápido do gateway OpenAI

Instale o SDK padrão da OpenAI

Comece adicionando a biblioteca cliente oficial ao ambiente do seu projeto. Isso garante compatibilidade com os endpoints padrão que expomos. O SDK lida com serialização e cabeçalhos de autenticação automaticamente, reduzindo o código repetitivo na sua implementação.

• Python: pip install openai
• Node.js: npm install openai

Verifique se a instalação é concluída sem conflitos de dependência. Nosso gateway espera payloads JSON padrão, então qualquer versão do SDK que suporte o /v1/chat/completions endpoint funcionará corretamente.

Configure seu base_url e chave de API

Aponte sua instância de cliente para nosso endpoint de gateway específico para rotear requisições através do nosso modelo sem censura. Você deve substituir a URL base padrão e injetar sua chave de API exclusiva obtida no painel.

Suas solicitações agora visarão https://api.gatewayopenai.com/v1 em vez do provedor padrão. Essa alteração garante que você acesse o modelo dedicado sem censura sem modificar sua lógica principal.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

A autenticação depende de um único cabeçalho. Certifique-se de que sua chave esteja ativa e não expirada. O gateway valida este token antes de processar quaisquer tokens.

Envie sua primeira solicitação de conclusão de chat

Execute uma chamada simples de entrada de texto e saída de texto para verificar a conectividade e a qualidade da resposta. Use o ID do modelo uncensored para garantir que você atinja o servidor correto. Este teste confirma que sua chave de API tem crédito suficiente e que seu caminho de rede está livre.

Envie um objeto de mensagem padrão. A resposta conterá texto gerado sem as recusas típicas de conteúdo. Verifique o choices array para o conteúdo gerado.

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

Revisar o tempo de resposta e o uso de tokens. Esta solicitação de linha de base estabelece confiança na conexão antes de escalar para prompts mais complexos.

Ative o streaming e analise o uso

Ative o streaming para receber tokens em tempo real via Server-Sent Events (SSE). Isso reduz a latência percebida para os usuários finais e permite o renderização progressiva de saídas longas. Defina stream: true nos parâmetros da sua solicitação.

Analise os chunks do stream para extrair as estatísticas finais de uso de tokens. O último chunk contém a contagem completa de tokens para entrada e saída. Esses dados são essenciais para a verificação precisa de cobrança, já que cobramos por token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Lide com respostas parciais de forma elegante. Certifique-se de que seu cliente feche a conexão limpa após a chegada do último fragmento para evitar vazamentos de recursos.

Use ferramentas, modo JSON e parâmetros

Aproveite a chamada de funções e a saída JSON estrita para geração de dados estruturados. Ative response_format com json_object forçar respostas JSON válidas do modelo. Isso é essencial para integrações programáticas.

Configure parâmetros como temperature e top_p para controlar a criatividade. Ajuste max_tokens limitar o comprimento da saída; o padrão é 2.048, mas você pode especificar até 16.000. A janela de contexto suporta 100.000 tokens no total.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Teste definições de ferramentas com exemplos simples. Verifique se o modelo adere ao esquema fornecido em sua solicitação. Isso garante confiabilidade em fluxos de trabalho automatizados.

Limites, erros e janela de contexto

Monitore seus limites de taxa e códigos de erro para manter uma integração estável. O gateway impõe 300 requisições por minuto por chave e permite 8 requisições simultâneas. Exceder esses limites aciona um erro 429.

Lide prontamente com erros de autenticação (401) e crédito insuficiente (402). Um 401 indica uma chave de API inválida ou expirada. Um 402 significa que seu crédito pré-pago está esgotado; recarregue via criptomoeda para retomar o serviço. O limite do corpo da solicitação é de 8 MB.

Sua janela de contexto abrange 100.000 tokens, incluindo prompt e conclusão. Planeje seu orçamento de tokens de acordo para evitar truncamento. Erros não consomem crédito, protegendo seu saldo durante as tentativas novamente.