شروع سریع: اپلیکیشن خود را متصل کنید

پیش‌نیازها: نصب SDK

کتابخانه کلاینت رسمی را برای زبان خود قبل از ارسال درخواست نصب کنید. نقطه پایانی ما با هر SDK جایگزین API استاندارد openai سازگار است زیرا ما از همان طرح JSON پیروی می‌کنیم. شما به درایورهای خاص یا وابستگی‌های اضافی برای شروع بلافاصله تولید متن نیاز ندارید.

پیکربندی base_url و کلید

مشتری SDK خود را به نقطه پایانی خاص ما پیکربندی کنید تا ترافیک از طریق پراکسی ما هدایت شود. باید URL پایه را روی HTTPS://api.llmapiproxy.com/v1 تنظیم کرده و کلیدی که در داشبورد ایجاد کرده‌اید را ارائه دهید. این تغییر پیکربندی ساده به برنامه موجود شما اجازه می‌دهد تا از یک بک‌اند هوش مصنوعی بدون سانسور بدون بازنویسی منطق هسته استفاده کند.

اولین تکمیل چت خود را ارسال کنید

یک درخواست POST استاندارد به endpoint تکمیل چت با شناسه مدل خود ارسال کنید. سرور ما ورودی را پردازش کرده و متنی را بدون فیلتر کردن موضوعات قانونی بزرگسالان یا بحث‌برانگیز برمی‌گرداند. ساختار پاسخ با فرمت خروجی استاندارد که از قبل می‌شناسید، مطابقت دارد.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

فعال‌سازی جریان‌سازی و شمارش توکن‌ها

افزودن stream=true به پیکربندی درخواست خود تا توکن‌های متن به محض تولید دریافت شوند. هر قطعه شامل داده‌های استفاده است، که به شما امکان می‌دهد هزینه‌ها را به صورت بلادرنگ در حالی که مدل می‌نویسد ردیابی کنید. این رویکرد تأخیر ادراک‌شده را برای کاربران نهایی کاهش می‌دهد و در عین حال دید دقیقی از مصرف توکن به شما می‌دهد.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

مدیریت فراخوانی تابع و حالت JSON

از پارامتر tools برای فعال‌سازی فراخوانی تابع یا تنظیم response_format روی json_object برای خروجی‌های ساختاریافته استفاده کنید. مدل دستورالعمل‌های شما را دقیق دنبال می‌کند و از انجام وظایف منطقی پیچیده امتناع نمی‌ورزد. این قابلیت پراکسی ما را برای عامل‌های خودکار که به استخراج داده‌های قابل‌اعتماد نیاز دارند ایده‌آل می‌سازد.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

محدودیت‌ها، خطاها و پنجره زمینه

ما یک پنجره زمینه 100,000 توکنی و حد نرخ 429 به میزان 300 درخواست در دقیقه اعمال می‌کنیم. اگر خطای 401 دریافت کردید، کلید API شما نامعتبر است، در حالی که خطای 402 نشان می‌دهد که نیاز به شارژ اعتبار ارز دیجیتال خود دارید. حجم بدنه درخواست را زیر 8 مگابایت نگه دارید تا پردازش روان باشد.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)