Panduan cepat gerbang OpenAI

Instal SDK OpenAI standar

Mulai dengan menambahkan perpustakaan klien resmi ke lingkungan proyek Anda. Ini memastikan kompatibilitas dengan endpoint standar yang kami sediakan. SDK menangani serialisasi dan header autentikasi secara otomatis, mengurangi boilerplate dalam implementasi Anda.

• Python: pip install openai
• Node.js: npm install openai

Verifikasi instalasi selesai tanpa konflik dependensi. Gateway kami mengharapkan payload JSON standar, sehingga versi SDK apa pun yang mendukung /v1/chat/completions endpoint akan berfungsi dengan benar.

Konfigurasikan your_base_url dan kunci API Anda

Arahkan instance klien Anda ke endpoint gateway khusus kami untuk mengarahkan permintaan melalui model tanpa sensor kami. Anda harus mengganti URL dasar default dan menyuntikkan kunci API unik Anda yang diperoleh dari dasbor.

Permintaan Anda sekarang akan menargetkan https://api.gatewayopenai.com/v1 daripada penyedia standar. Perubahan ini memastikan Anda mengakses model uncensored khusus tanpa memodifikasi logika inti Anda.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Autentikasi mengandalkan satu header. Pastikan kunci Anda aktif dan tidak kedaluwarsa. Gerbang memvalidasi token ini sebelum memproses token apa pun.

Kirim permintaan penyelesaian chat pertama Anda

Eksekusi panggilan teks masuk, teks keluar sederhana untuk memverifikasi konektivitas dan kualitas respons. Gunakan ID model uncensored agar Anda mencapai server yang benar. Tes ini mengonfirmasi bahwa kunci API Anda memiliki kredit yang cukup dan jalur jaringan Anda jelas.

Kirim objek pesan standar. Respons akan berisi teks yang dihasilkan tanpa penolakan konten khas. Periksa choices array untuk konten yang dihasilkan.

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

Tinjau waktu respons dan penggunaan token. Permintaan dasar ini membangun kepercayaan dalam koneksi sebelum diskalakan ke prompt yang lebih kompleks.

Aktifkan streaming dan parse penggunaan

Aktifkan streaming untuk menerima token secara real-time melalui Server-Sent Events (SSE). Hal ini mengurangi latensi yang dirasakan oleh pengguna akhir dan memungkinkan rendering progresif output panjang. Atur stream: true dalam parameter permintaan Anda.

Parse chunk aliran untuk mengekstrak statistik penggunaan token akhir. Chunk terakhir berisi jumlah token lengkap untuk input dan output. Data ini sangat penting untuk verifikasi penagihan yang akurat karena kami membebankan biaya per token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani respons parsial dengan baik. Pastikan klien Anda menutup koneksi dengan bersih setelah potongan terakhir tiba untuk menghindari kebocoran sumber daya.

Gunakan tools, mode JSON, dan parameter

Manfaatkan pemanggilan fungsi dan output JSON ketat untuk generasi data terstruktur. Aktifkan response_format dengan json_object untuk memaksa respons JSON yang valid dari model. Ini penting untuk integrasi terprogram.

Konfigurasi parameter seperti temperature dan top_p untuk mengontrol kreativitas. Sesuaikan max_tokens untuk membatasi panjang output; default adalah 2.048, tetapi Anda dapat menentukan hingga 16.000. Jendela konteks mendukung 100.000 token total.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Uji definisi alat dengan contoh sederhana. Verifikasi bahwa model mematuhi skema yang disediakan dalam permintaan Anda. Ini memastikan keandalan dalam alur kerja otomatis.

Batas, error, dan jendela konteks

Pantau batas laju dan kode kesalahan Anda untuk mempertahankan integrasi yang stabil. Gateway menerapkan 300 permintaan per menit per kunci dan mengizinkan 8 permintaan simultan. Melebihi batas ini memicu kesalahan 429.

Tangani kesalahan autentikasi (401) dan kredit tidak cukup (402) segera. 401 menunjukkan kunci API tidak valid atau kedaluwarsa. 402 berarti kredit prabayar Anda habis; isi ulang melalui crypto untuk melanjutkan layanan. Batas tubuh permintaan adalah 8 MB.

Jendela konteks Anda mencakup 100,000 token termasuk prompt dan gabungan completion. Rencanakan anggaran token Anda sesuai untuk menghindari pemotongan. Error tidak mengonsumsi kredit, melindungi saldo Anda selama percobaan ulang.