OpenAI गेटवे त्वरित प्रारंभ गाइड

मानक OpenAI SDK इंस्टॉल करें

पहले official client library को अपने project environment में add करें। यह standard endpoints के साथ compatibility सुनिश्चित करता है जो हम expose करते हैं। SDK serialization और authentication headers को स्वचालित रूप से handle करता है, जिससे आपके implementation में boilerplate कम होता है।

• Python: pip install openai
• Node.js: npm install openai

सुनिश्चित करें कि इंस्टॉलेशन डिपेंडेंसी कॉन्फ्लिक्ट्स के बिना पूरी होती है। हमारा गेटवे मानक JSON पेलोड्स की उम्मीद करता है, इसलिए एसडीके का कोई भी वर्जन जो सपोर्ट करता है /v1/chat/completions एंडपॉइंट सही ढंग से काम करेगा।

अपने base_url और API key को कॉन्फ़िगर करें

अपने क्लाइंट इंस्टेंस को हमारे विशिष्ट गेटवे एंडपॉइंट की ओर निर्देशित करें ताकि अनुरोध हमारे अनसेंसर्ड मॉडल के माध्यम से रूट हों। आपको डिफ़ॉल्ट बेस URL को बदलना होगा और डैशबोर्ड से प्राप्त अपनी अद्वितीय API कुंजी को इंजेक्ट करना होगा।

आपके अनुरोध अब这里目标 https://api.gatewayopenai.com/v1 स्टैंडर्ड प्रोवाइडर के बजाय। यह बदलाव सुनिश्चित करता है कि आप बिना अपने कोर लॉजिक को संशोधित किए समर्पित अनसेंसर्ड मॉडल तक पहुंच प्राप्त करें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

प्रमाणीकरण एकल हेडर पर निर्भर करता है। सुनिश्चित करें कि आपकी कुंजी सक्रिय है और समाप्त नहीं हुई है। गेटवे किसी भी टोकन को संसाधित करने से पहले इस टोकन की सत्यापन करता है।

अपना पहला चैट कंप्लीशन अनुरोध

कनेक्टिविटी और प्रतिक्रिया गुणवत्ता की जांच करने के लिए एक सरल टेक्स्ट-इन, टेक्स्ट-आउट कॉल निष्पादित करें। uncensored सुनिश्चित करने के लिए कि आप सही सर्वर पर पहुंचें। यह परीक्षण पुष्टि करता है कि आपकी API कुंजी में पर्याप्त क्रेडिट है और आपका नेटवर्क पथ स्पष्ट है।

एक मानक संदेश ऑब्जेक्ट भेजें। प्रतिक्रिया में सामान्य सामग्री अस्वीकृतियों के बिना उत्पन्न पाठ होगा। जांचें choices उत्पन्न सामग्री के लिए एरे।

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

रिस्पॉन्स टाइम और टोकन उपयोग की समीक्षा करें। यह बेसलाइन रिक्वेस्ट कनेक्शन पर भरोसा स्थापित करता है, जिससे अधिक जटिल प्रॉम्प्ट्स पर स्केल करने से पहले।

स्ट्रीमिंग सक्षम करें और उपयोग पार्स करें

वास्तविक समय में सर्वर-सेंड इवेंट्स (SSE) के माध्यम से टोकन प्राप्त करने के लिए स्ट्रीमिंग को सक्रिय करें। इससे अंत-उपयोगकर्ताओं के लिए अनुभवजन्य विलंबता कम हो जाती है और लंबे आउटपुट के क्रमबद्ध रेंडरिंग की अनुमति मिलती है। सेट stream: true अपने अनुरोध पैरामीटर में।

स्ट्रीम चंक को पार्स करें ताकि अंतिम टोकन उपयोग आँकड़े प्राप्त किए जा सकें। अंतिम चंक में इनपुट और आउटपुट दोनों के लिए पूर्ण टोकन गणना होती है। यह डेटा सटीक बिलिंग सत्यापन के लिए महत्वपूर्ण है क्योंकि हम प्रति टोकन चार्ज करते हैं।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

आंशिक प्रतिक्रियाओं को सहजता से हैंडल करें। सुनिश्चित करें कि आपका क्लाइंट अंतिम चंक आने के बाद कनेक्शन को स्वच्छ रूप से बंद कर दे ताकि संसाधन लीक न हों।

टूल्स, JSON मोड, और पैरामीटर

संरचित डेटा जनरेशन के लिए फंक्शन कॉलिंग और सख्त JSON आउटपुट का लाभ उठाएं। सक्षम करें response_format के साथ json_object मॉडल से मान्य JSON प्रतिक्रियाएं प्राप्त करने के लिए। यह प्रोग्रामेटिक एकीकरण के लिए आवश्यक है।

तापमान जैसे पैरामीटर कॉन्फ़िगर करें temperature और top_p रचनात्मकता को नियंत्रित करने के लिए। समायोजित करें max_tokens आउटपुट लंबाई को सीमित करने के लिए; डिफ़ॉल्ट 2,048 है, लेकिन आप 16,000 तक निर्दिष्ट कर सकते हैं। कंटेक्स्ट विंडो कुल 100,000 टोकन का समर्थन करती है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

सरल उदाहरणों के साथ टूल परिभाषाओं का परीक्षण करें। सत्यापित करें कि मॉडल आपके अनुरोध में प्रदान किए गए स्कीमा का पालन करता है। यह स्वचालित वर्कफ़्लो में विश्वसनीयता सुनिश्चित करता है।

सीमाएं, त्रुटियां, और संदर्भ विंडो

स्थिर इंटीग्रेशन बनाए रखने के लिए अपनी दर सीमाओं और त्रुटि कोड की निगरानी करें। गेटवे प्रति कुंजी प्रति मिनट 300 अनुरोध लागू करता है और 8 समवर्ती अनुरोध की अनुमति देता है। इन सीमाओं को पार करने से एक 429 त्रुटि ट्रिगर होती है।

प्रमाणीकरण त्रुटियों (401) और अपर्याप्त क्रेडिट (402) को तुरंत संभालें। 401 का संकेत है कि API कुंजी अमान्य या समाप्त हो गई है। 402 का अर्थ है कि आपका पूर्व-भुगतान किया गया क्रेडिट खत्म हो गया है; सेवा जारी रखने के लिए क्रिप्टो के माध्यम से टॉप-अप करें। अनुरोध बॉडी की सीमा 8 MB है।

आपका संदर्भ विंडो प्रॉम्प्ट और पूर्णता सहित 100,000 टोकन फैलाता है। ट्रंकेशन से बचने के लिए अपने टोकन बजट की योजना बनाएं। त्रुटियां क्रेडिट का उपभोग नहीं करतीं, जिससे रीट्राइज के दौरान आपका बैलेंस सुरक्षित रहता है।