Bắt đầu nhanh: Kết nối ứng dụng của bạn

Điều kiện tiên quyết: Cài đặt SDK

Cài đặt thư viện máy khách chính thức cho ngôn ngữ của bạn trước khi thực hiện các yêu cầu. Điểm cuối của chúng tôi hoạt động với bất kỳ SDK thay thế API openai tiêu chuẩn nào vì chúng tôi tuân theo lược đồ JSON tương tự. Bạn không cần trình điều khiển đặc biệt hoặc các phần phụ trợ bổ sung để bắt đầu tạo văn bản ngay lập tức.

Cấu hình URL cơ sở và Khóa

Điểm SDK client của bạn đến điểm cuối chuyên dụng của chúng tôi để định hướng lưu lượng truy cập qua proxy của chúng tôi. Bạn phải đặt URL gốc thành HTTPS://api.llmapiproxy.com/v1 và cung cấp khóa bạn đã tạo trên bảng điều khiển. Thay đổi cấu hình đơn giản này cho phép ứng dụng hiện có của bạn sử dụng nền tảng AI không kiểm duyệt mà không cần viết lại logic cốt lõi của bạn.

Gửi Yêu cầu Chat Completion đầu tiên của bạn

Thực hiện yêu cầu POST tiêu chuẩn đến điểm cuối hoàn thành trò chuyện với ID mô hình của bạn. Máy chủ của chúng tôi xử lý đầu vào và trả về văn bản mà không lọc các chủ đề người trưởng thành hợp pháp hoặc gây tranh cãi. Cấu trúc phản hồi khớp với định dạng đầu ra tiêu chuẩn mà bạn đã quen thuộc.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Bật phát trực tiếp và Đếm token

Thêm stream=true vào payload yêu cầu của bạn để nhận các token văn bản khi chúng được tạo. Mỗi chunk bao gồm dữ liệu sử dụng, cho phép bạn theo dõi chi phí theo thời gian thực khi mô hình viết. Cách tiếp cận này giảm độ trễ cảm nhận đối với người dùng cuối trong khi cung cấp cho bạn khả năng hiển thị chính xác về việc tiêu thụ token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý Gọi Hàm và Chế độ JSON

Sử dụng tham số tools để kích hoạt gọi hàm hoặc đặt response_format thành json_object cho các đầu ra có cấu trúc. Mô hình tuân theo hướng dẫn của bạn một cách chính xác mà không từ chối các nhiệm vụ logic phức tạp. Khả năng này làm cho proxy của chúng tôi lý tưởng cho các agent tự động yêu cầu trích xuất dữ liệu đáng tin cậy.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Giới hạn, Lỗi và Cửa sổ ngữ cảnh

Chúng tôi thực thi cửa sổ ngữ cảnh 100.000 token và giới hạn tốc độ 429 là 300 yêu cầu mỗi phút. Nếu bạn nhận được lỗi 401, khóa API của bạn không hợp lệ, trong khi lỗi 402 cho biết bạn cần nạp thêm tín dụng tiền điện tử. Giữ thân yêu cầu dưới 8 MB để đảm bảo xử lý mượt mà.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)