Hướng dẫn nhanh cổng OpenAI

Cài đặt SDK OpenAI tiêu chuẩn

Bắt đầu bằng cách thêm thư viện client chính thức vào môi trường dự án của bạn. Điều này đảm bảo khả năng tương thích với các điểm cuối tiêu chuẩn mà chúng tôi cung cấp. SDK tự động xử lý tuần tự hóa và các tiêu đề xác thực, giảm thiểu mã boilerplate trong triển khai của bạn.

• Python: pip install openai
• Node.js: npm install openai

Xác minh cài đặt hoàn tất mà không có xung đột phụ thuộc. Cổng của chúng tôi mong đợi các tải trọng JSON tiêu chuẩn, vì vậy bất kỳ phiên bản SDK nào hỗ trợ /v1/chat/completions endpoint sẽ hoạt động đúng.

Cấu hình base_url và khóa API của bạn

Điểm phiên bản máy khách của bạn đến điểm cuối cổng cụ thể của chúng tôi để định tuyến yêu cầu thông qua mô hình không kiểm duyệt của chúng tôi. Bạn phải thay thế URL cơ sở mặc định và tiêm khóa API độc đáo của bạn có được từ bảng điều khiển.

Yêu cầu của bạn bây giờ sẽ nhắm vào https://api.gatewayopenai.com/v1 thay vì nhà cung cấp tiêu chuẩn. Thay đổi này đảm bảo bạn truy cập mô hình không kiểm duyệt chuyên biệt mà không cần sửa đổi logic cốt lõi của mình.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Xác thực dựa trên một header đơn lẻ. Đảm bảo khóa của bạn đang hoạt động và chưa hết hạn. Cổng giao tiếp xác thực token này trước khi xử lý bất kỳ token nào.

Gửi yêu cầu hoàn tất hội thoại đầu tiên của bạn

Thực hiện một lệnh gọi đầu vào văn bản, đầu ra văn bản đơn giản để xác minh kết nối và chất lượng phản hồi. Sử dụng ID mô hình uncensored để đảm bảo bạn truy cập đúng máy chủ. Kiểm tra này xác nhận khóa API của bạn có đủ tín dụng và đường dẫn mạng của bạn rõ ràng.

Gửi một đối tượng thông điệp tiêu chuẩn. Phản hồi sẽ chứa văn bản được tạo mà không có các từ chối nội dung điển hình. Kiểm tra choices mảng cho nội dung được tạo.

Copycurl https://api.gatewayopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List 5 Linux commands for disk usage"}]
  }'

Xem lại thời gian phản hồi và mức sử dụng token. Yêu cầu cơ sở này thiết lập niềm tin vào kết nối trước khi mở rộng sang các câu lệnh phức tạp hơn.

Bật phát trực tiếp và phân tích cú pháp dữ liệu sử dụng

Kích hoạt streaming để nhận token theo thời gian thực qua Server-Sent Events (SSE). Điều này giảm độ trễ cảm nhận đối với người dùng cuối và cho phép hiển thị dần các đầu ra dài. Đặt stream: true trong các tham số yêu cầu.

Phân tích các chunk stream để trích xuất thống kê sử dụng token cuối cùng. Chunk cuối cùng chứa tổng số token đầy đủ cho cả đầu vào và đầu ra. Dữ liệu này rất quan trọng để xác minh hóa đơn chính xác vì chúng tôi tính phí theo token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý gracefully các phản hồi từng phần. Đảm bảo máy khách của bạn đóng kết nối một cách sạch sẽ sau khi chunk cuối cùng đến để tránh rò rỉ tài nguyên.

Sử dụng công cụ, chế độ JSON và các tham số

Tận dụng gọi hàm và đầu ra JSON nghiêm ngặt để tạo dữ liệu có cấu trúc. Bật response_format với json_object để buộc các phản hồi JSON hợp lệ từ mô hình. Điều này rất cần thiết cho các tích hợp theo chương trình.

Cấu hình các tham số như temperature và top_p để kiểm soát độ sáng tạo. Điều chỉnh max_tokens để giới hạn đầu ra; mặc định là 2.048, nhưng bạn có thể chỉ định lên đến 16.000. Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Kiểm thử định nghĩa công cụ với các ví dụ đơn giản. Xác minh rằng mô hình tuân thủ lược đồ được cung cấp trong yêu cầu của bạn. Điều này đảm bảo độ tin cậy trong các quy trình tự động hóa.

Giới hạn, lỗi và cửa sổ ngữ cảnh

Theo dõi các giới hạn tốc độ và mã lỗi của bạn để duy trì tích hợp ổn định. Cổng thông tin áp dụng giới hạn 300 yêu cầu mỗi phút cho mỗi khóa và cho phép 8 yêu cầu đồng thời. Vượt quá các giới hạn này sẽ kích hoạt lỗi 429.

Xử lý nhanh các lỗi xác thực (401) và thiếu tín dụng (402). Mã 401 cho biết khóa API không hợp lệ hoặc đã hết hạn. Mã 402 nghĩa là tín dụng trả trước của bạn đã cạn; hãy nạp thêm qua tiền điện tử để tiếp tục dịch vụ. Giới hạn kích thước yêu cầu là 8 MB.

Cửa sổ ngữ cảnh của bạn trải rộng 100.000 token bao gồm cả lệnh nhắc và kết quả hoàn thành. Hãy lập kế hoạch ngân sách token của bạn phù hợp để tránh cắt bớt. Lỗi không tiêu thụ tín dụng, bảo vệ số dư của bạn trong các lần thử lại.