Οδηγός γρήγορης έναρξης πύλης OpenAI

Εγκαταστήστε το τυπικό SDK της OpenAI

Ξεκινήστε προσθέτοντας την επίσημη βιβλιοθήκη client στο περιβάλλον του έργου σας. Αυτό διασφαλίζει συμβατότητα με τα τυπικά endpoints που εκθέτουμε. Το SDK χειρίζεται τη serialization και τους headers πιστοποίησης αυτόματα, μειώνοντας το boilerplate στην υλοποίησή σας.

• Python: pip install openai
• Node.js: npm install openai

Επαληθεύστε ότι η εγκατάσταση ολοκληρώνεται χωρίς συγκρούσεις εξαρτήσεων. Το gateway μας αναμένει τυπικά payloads JSON, οπότε οποιαδήποτε έκδοση του SDK υποστηρίζει το /v1/chat/completions το endpoint θα λειτουργήσει σωστά.

Ρυθθμίστε το base_url και το κλειδί API σας

Κατευθύνετε την έκδοση του client σας στο συγκεκριμένο endpoint gateway μας για να διαμορφώσετε τα αιτήματα μέσω του μοντέλου μας χωρίς λογοκρισία. Πρέπει να αντικαταστήσετε τη προεπιλεγμένη βάση URL και να εισάγετε το μοναδικό API key που αποκτήσατε από το dashboard.

Οι αιτήσεις σας θα στοχεύουν πλέον https://api.gatewayopenai.com/v1 αντί για τον τυπικό πάροχο. Αυτή η αλλαγή διασφαλίζει ότι έχετε πρόσβαση στο αποκλειστικό uncensored μοντέλο χωρίς να τροποποιήσετε τη βασική σας λογική.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Η πιστοποίηση βασίζεται σε μία μοναδική κεφαλίδα. Βεβαιωθείτε ότι το κλειδί σας είναι ενεργό και όχι ληγμένο. Η πύλη επαληθεύει αυτό το διακριτικό πριν επεξεργαστεί οποιαδήποτε tokens.

Στείλτε το πρώτο αίτημα ολοκλήρωσης συνομιλίας

Εκτελέστε μια απλή κλήση input-output κειμένου για να επαληθεύσετε τη σύνδεση και την ποιότητα της απόκρισης. Χρησιμοποιήστε το model ID uncensored για να διασφαλιστεί ότι χτυπάτε τον σωστό διακομιστή. Αυτό το τεστ επιβεβαιώνει ότι το API key σας έχει επαρκές credit και ότι το δρομολόγιο δικτύου σας είναι καθαρό.

Στείλτε ένα τυπικό αντικείμενο μηνύματος. Η απάντηση θα περιέχει παραγόμενο κείμενο χωρίς τις τυπικές απορρίψεις περιεχομένου. Ελέγξτε το choices array για το παραγόμενο περιεχόμενο.

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

Ελέγξτε τον χρόνο απόκρισης και τη χρήση tokens. Αυτό το αίτημα βάσης καθιερώνει εμπιστοσύνη στη σύνδεση πριν κλιμακωθείτε σε πιο σύνθετες εντολές.

Ενεργοποιήστε streaming και αναλύστε τη χρήση

Ενεργοποιήστε το streaming για να λαμβάνετε tokens σε πραγματικό χρόνο μέσω Server-Sent Events (SSE). Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για τους τελικούς χρήστες και επιτρέπει την προοδευτική απόδοση μακρών εξόδων. Ρυθμίστε stream: true στις παραμέτρους του αιτήματός σας.

Επεξεργαστείτε τα τμήματα του stream για να εξαγάγετε τα τελικά στατιστικά χρήσης tokens. Το τελευταίο τμήμα περιέχει τον πλήρη αριθμό tokens τόσο για την είσοδο όσο και για την έξοδο. Τα δεδομένα αυτά είναι κρίσιμα για την ακριβή επαλήθευση χρέωσης, καθώς χρεωνόμαστε ανά token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Διαχειριστείτε τις μερικές απαντήσεις με επιτυχία. Βεβαιωθείτε ότι ο πελάτης σας κλείει τη σύνδεση καθαρά μετά την άφιξη του τελευταίου κομματιού για να αποφύγετε διαρροές πόρων.

Χρησιμοποιήστε εργαλεία, JSON mode και παραμέτρους

Εκμεταλλευτείτε την κλήση συναρτήσεων και την αυστηρή έξοδο JSON για τη δημιουργία δομημένων δεδομένων. Ενεργοποιήστε response_format με json_object να αναγκάσει έγκυρες απαντήσεις JSON από το μοντέλο. Αυτό είναι απαραίτητο για προγραμματιστικές ενσωματώσεις.

Ρυθμίστε παραμέτρους όπως temperature και top_p για τον έλεγχο της δημιουργικότητας. Προσαρμόστε max_tokens για να περιορίσετε την έξοδο· η προεπιλογή είναι 2.048, αλλά μπορείτε να ορίσετε έως 16.000. Το παράθυρο συμφραζομένων υποστηρίζει 100.000 tokens συνολικά.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Δοκιμάστε ορισμούς εργαλείων με απλά παραδείγματα. Επαληθεύστε ότι το μοντέλο συμμορφώνεται με το schema που παρέχεται στην αίτησή σας. Αυτό διασφαλίζει αξιοπιστία σε αυτοματοποιημένες ροές εργασίας.

Όρια, σφάλματα και context window

Παρακολουθήστε τα όρια ρυθμού και τους κωδικούς σφάλματος για να διατηρήσετε μια σταθερή ενσωμάτωση. Η πύλη επιβάλλει 300 αιτήσεις ανά λεπτό ανά κλειδί και επιτρέπει 8 ταυτόχρονες αιτήσεις. Η υπέρβαση αυτών των ορίων ενεργοποιεί ένα σφάλμα 429.

Διαχειριστείτε άμεσα τα σφάλματα ελέγχου ταυτότητας (401) και το ανεπαρκές πιστωτικό υπόλοιπο (402). Το 401 υποδηλώνει μη έγκυρο ή ληγμένο κλειδί API. Το 402 σημαίνει ότι το προκαταβλημένο σας πιστωτικό υπόλοιπο εξαντλήθηκε· συμπληρώστε το μέσω κρυπτονομισμάτων για να συνεχίσετε την υπηρεσία. Το όριο του σώματος της αίτησης είναι 8 MB.

Το παράθυρο πλαισίου (context window) καλύπτει 100.000 tokens συμπεριλαμβανομένου τόσο του prompt όσο και του completion. Σχεδιάστε τον προϋπολογισμό tokens σας ανάλογα για να αποφύγετε την περικοπή. Τα σφάλματα δεν καταναλώνουν πιστωτικό υπόλοιπο, προστατεύοντας το υπόλοιπό σας κατά τις επαναλήψεις.