Panduan permulaan gerbang OpenAI

Pasang SDK OpenAI piawai

Mula dengan menambah perpustakaan klien rasmi ke persekitaran projek anda. Ini memastikan serasi dengan hujung standard yang kami sediakan. SDK mengendalikan pengaturcaraan semula dan header pengesahan secara automatik, mengurangkan kod boiler dalam pelaksanaan anda.

• Python: pip install openai
• Node.js: npm install openai

Sahkan pemasangan selesai tanpa konflik kebergantungan. Gerbang kami mengharapkan payload JSON standard, jadi mana-mana versi SDK yang menyokong /v1/chat/completions endpoint akan berfungsi dengan betul.

Konfigurasikan your_base_url dan kunci API anda

Arahkan instance klien anda ke hujung gerbang khusus kami untuk menyalurkan permintaan melalui model tanpa sensor kami. Anda mesti menggantikan URL asas lalai dan menyuntik kunci API unik anda yang diperoleh dari papan pemuka.

Permintaan anda kini akan menyasarkan https://api.gatewayopenai.com/v1 sebagai ganti penyedia piawai. Perubahan ini memastikan anda mengakses model uncensored khusus tanpa mengubah logik teras anda.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pengesahihan bergantung pada satu header. Pastikan kunci anda aktif dan tidak luput. Gerbang mengesahkan token ini sebelum memproses mana-mana token.

Hantar permintaan penyelesaian sem pertama anda

Laksanakan panggilan teks-masuk, teks-keluar asas untuk mengesahkan sambungan dan kualiti respons. Gunakan ID model uncensored untuk memastikan anda mencapai pelayan yang betul. Ujian ini mengesahkan kunci API anda mempunyai kredit yang mencukupi dan laluan rangkaian anda jelas.

Hantar objek mesej piawai. Respons akan mengandungi teks yang dijana tanpa penolakan kandungan biasa. Semak choices array for the generated content.

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

Semak masa respons dan penggunaan token. Permintaan asas ini mewujudkan kepercayaan dalam sambungan sebelum diskalakan ke prompt yang lebih kompleks.

Aktifkan aliran dan huraikan penggunaan

Aktifkan streaming untuk menerima token secara masa nyata melalui Server-Sent Events (SSE). Ini mengurangkan latensi yang dirasakan oleh pengguna akhir dan membolehkan pemaparan progresif output yang panjang. Tetapkan stream: true dalam parameter permintaan anda.

Parse chunk aliran untuk mengekstrak statistik penggunaan token akhir. Chunk terakhir mengandungi jumlah token lengkap untuk input dan output. Data ini penting untuk pengesahan bil yang tepat kerana kami mengenakan caj setiap token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani respons separa dengan baik. Pastikan klien anda menutup sambungan dengan bersih selepas potongan akhir tiba untuk mengelakkan kebocoran sumber.

Gunakan alat, mod JSON, dan parameter

Manfaatkan pemanggilan fungsi dan output JSON ketat untuk penjanaan data berstruktur. Aktifkan response_format dengan json_object untuk memaksa respons JSON yang sah daripada model. Ini penting untuk integrasi berprogram.

Konfigurasi parameter seperti temperature dan top_p untuk mengawal kreativiti. Laraskan max_tokens untuk membatasi panjang output; lalai ialah 2,048, tetapi anda boleh menentukan sehingga 16,000. Jendela konteks menyokong 100,000 token secara keseluruhan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Uji definisi alat dengan contoh mudah. Sahkan bahawa model mematuhi skema yang disediakan dalam permintaan anda. Ini memastikan kebolehpercayaan dalam aliran kerja automatik.

Had, ralat, dan tetingkap konteks

Pantau had kadar anda dan kod ralat untuk mengekalkan integrasi yang stabil. Gerbang melaksanakan had 300 permintaan setiap minit per kunci dan membenarkan 8 permintaan serentak. Melebihi had ini mencetuskan ralat 429.

Tangani ralat pengesahan (401) dan kredit tidak mencukupi (402) dengan segera. 401 menunjukkan kunci API tidak sah atau telah luput. 402 bermaksud kredit prabayar anda telah habis; tambuh melalui kripto untuk meneruskan perkhidmatan. Had badan permintaan ialah 8 MB.

Tetingkap konteks anda merangkumi 100,000 token termasuk kedua-dua prompt dan penyelesaian. Rancang bajet token anda dengan sewajarnya untuk mengelakkan pemendekan. Ralat tidak menggunakan kredit, melindungi baki anda semasa cubaan semula.