ゲートウェイOpenAIゲートウェイクイックスタートガイド
OpenAIゲートウェイクイックスタートガイド
ベースURLと認証ヘッダーを更新するだけで、既存のOpenAI互換APIインフラストラクチャにこの無制限LLMを簡単に組み込めます。コンテンツフィルタリングなしでテキストリクエストを処理する、プライバシーを重視した直接ゲートウェイを提供します。コードの変更は不要です。
標準の OpenAI SDK をインストールします
まず公式クライアントライブラリをプロジェクト環境に追加することから始めましょう。これにより、公開されている標準エンドポイントとの互換性が確保されます。SDKはシリアライゼーションと認証ヘッダーを自動的に処理し、実装におけるボイラープレートコードを削減します。
- Python:
pip install openai - Node.js:
npm install openai
インストールが依存関係の競合なしで完了することを確認します。当ゲートウェイは標準的なJSONペイロードを期待するため、 /v1/chat/completions endpointは正しく動作します。
base_url と API キーを設定します
クライアントインスタンスを当社の専用ゲートウェイエンドポイントに指し、制限なしモデル経由でリクエストをルーティングしてください。デフォルトのベースURLを置き換え、ダッシュボードから取得した固有のAPIキーを挿入する必要があります。
リクエストは https://api.gatewayopenai.com/v1 標準プロバイダーの代わりに。この変更により、コアロジックを変更せずに専用非制限モデルにアクセスできます。
from openai import OpenAI
client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)認証は1つのヘッダーに依存します。キーが有効で期限切れでないことを確認してください。ゲートウェイはトークンを処理する前にこのトークンを検証します。
最初のチャット完了リクエスト
接続と応答品質を確認するために、テキスト入力・テキスト出力の単純な呼び出しを実行します。モデルID uncensored 正しいサーバーにアクセスします。このテストにより、APIキーに十分なクレジットがあり、ネットワークパスがクリアであることが確認されます。
標準的なメッセージオブジェクトを送信します。レスポンスには、一般的なコンテンツ拒否のない生成テキストが含まれます。確認してください。 choices 生成されたコンテンツ用の配列。
curl https://api.gatewayopenai.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
}'レビュー レスポンス時間とトークン使用を確認します。このベースラインリクエストは、より複雑なプロンプトにスケールする前に接続への信頼を確立します。
ストリーミングを有効にして使用量を解析する
Server-Sent Events (SSE) を介してリアルタイムでトークンを受け取るためにストリーミングを有効にします。これによりエンドユーザーの知覚されるレイテンシが削減され、長い出力のプログレッシブレンダリングが可能になります。 stream: true リクエストパラメータに指定します。
ストリームチャンクを解析して、最終的なトークン使用統計情報を抽出します。最後のチャンクには、入力と出力の両方の完全なトークン数が含まれています。このデータは、トークン単位で課金するため、正確な請求検証に不可欠です。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)部分的なレスポンスを適切に処理してください。最後のチャンク受信後、クライアントは接続を適切に閉じてリソースリークを防いでください。
ツール、JSONモード、およびパラメータ
構造化データ生成のために関数呼び出しと厳密なJSON出力を活用します。有効化 response_format と json_object モデルから有効なJSONレスポンスを生成させます。これはプログラムでの統合に不可欠です。
temperatureなどのパラメータを設定 temperature および top_p 創造性を制御する。調整 max_tokens 出力長を制限します。デフォルトは2,048ですが、最大16,000まで指定できます。コンテキストウィンドウは合計100,000トークンをサポートします。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);シンプルな例でツール定義をテストします。モデルがリクエストで提供されたスキーマに従うことを確認します。これにより、自動化されたワークフローでの信頼性が確保されます。
制限、エラー、コンテキストウィンドウ
レート制限とエラーコードを監視して、安定した統合を維持してください。ゲートウェイはキーごとに1分あたり300リクエスト、同時に8リクエストまでを許可します。これらの制限を超えると、429エラーが発生します。
認証エラー(401)とクレジット不足(402)を迅速に処理してください。401はAPIキーが無効または期限切れであることを示します。402はプリペイドクレジットが枯渇したことを意味し、サービス再開には暗号通貨でチャージが必要です。リクエストボディの制限は8 MBです。
コンテキストウィンドウはプロンプトと補完を合わせて100,000トークンです。切り捨てを避けるためにトークン予算を計画してください。エラーはクレジットを消費せず、リトライ中に残高を保護します。
よくある質問
この無制限LLMのOpenAIゲートウェイベースURLは?
ベースURLは HTTPS://api.gatewayopenai.com/v1 です。デフォルトのプロバイダエンドポイントの代わりに、このアドレスを指すように SDK 設定を更新してください。
アプリケーションでのストリーミングレスポンスを処理するにはどうすればよいですか?
リクエストにstreamパラメータをtrueに設定してください。ゲートウェイはトークンチャンクを含むサーバー送信イベント(SSE)を返します。最終チャンクを解析して、請求検証用の総トークン使用量を取得します。
レート制限を超えた場合、またはクレジットが枯渇した場合どうなりますか?
1分あたり300リクエストの制限を超えると429エラーが返されます。残高が枯渇すると402エラーが返されます。USDTまたはUSDCで即時にチャージすることで、ダウンタイムなくサービスを再開できます。
APIキーを取得
サインアップしてキーをコピーし、ベースURLを更新するだけです。これだけです。