क्विकस्टार्ट: अपनी ऐप कनेक्ट करें

आवश्यकताएँ: SDK इंस्टॉलेशन

किसी भी अनुरोध करने से पहले अपनी भाषा के लिए आधिकारिक क्लाइंट लाइब्रेरी इंस्टॉल करें। हमारा एंडपॉइंट किसी भी मानक openai API वैकल्पिक SDK के साथ काम करता है क्योंकि हम समान JSON स्कीमा का पालन करते हैं। आपको तुरंत टेक्स्ट जनरेट करने के लिए विशेष ड्राइवर या अतिरिक्त निर्भरताओं की आवश्यकता नहीं है।

बेस URL और कुंजी कॉन्फ़िगर करें

अपने SDK क्लाइंट को हमारे विशिष्ट एंडपॉइंट की ओर निर्देशित दें ताकि ट्रैफ़िक को हमारे प्रॉक्सी के माध्यम से रूट किया जा सके। आपको बेस यूआरएल को HTTPS://api.llmapiproxy.com/v1 पर सेट करना होगा और डैशबोर्ड पर जनरेट की गई कुंजी प्रदान करनी होगी। यह सरल कॉन्फ़िगरेशन परिवर्तन आपको मौजूदा एप्लिकेशन को अनसेंसर्ड AI बैकएंड का उपयोग करने की अनुमति देता है बिना अपने कोर लॉजिक को फिर से लिखे।

अपनी पहली चैट कंप्लीशन भेजें

अपने मॉडल आईडी के साथ /v1/chat/completions चैट कंप्लीशन एंडपॉइंट पर एक मानक POST अनुरोध करें। हमारा सर्वर इनपुट प्रसंस्कृत करता है और कानूनी वयस्क या विवादास्पद विषयों को फ़िल्टर किए बिना टेक्स्ट लौटाता है। प्रतिक्रिया संरचना उस मानक आउटपुट फॉर्मेट से मेल खाती है जिसे आप पहले से जानते हैं।

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

स्ट्रीमिंग और टोकन काउंट्स सक्षम करें

स्ट्रीम=true को अपने अनुरोध पेलोड में जोड़ें ताकि जनरेट होते समय टेक्स्ट टोकन प्राप्त हों। प्रत्येक चंक में उपयोग डेटा शामिल होता है, जिससे आपको मॉडल लिखते समय वास्तविक समय में लागत ट्रैक करने की अनुमति मिलती है। यह दृष्टिकोण अंत-उपयोगकर्ताओं के लिए अनुपस्थित विलंबता को कम करता है जबकि टोकन खपण पर सटीक दृश्यता प्रदान करता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

फंक्शन कॉलिंग और JSON मोड को हैंडल करें

फंक्शन कॉलिंग सक्षम करने के लिए tools पैरामीटर का उपयोग करें या संरचित आउटपुट के लिए response_format को json_object पर सेट करें। मॉडल आपकी निर्देशों का सटीक पालन करता है बिना जटिल तार्किक कार्यों को अस्वीकृत किए। यह क्षमता हमारे प्रॉक्सी को ऐसे स्वचालित एजेंट्स के लिए आदर्श बनाती है जिन्हें विश्वसनीय डेटा एक्सट्रैक्शन की आवश्यकता होती है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

सीमाएं, त्रुटियां, और संदर्भ विंडो

हम 100,000 टोकन की संदर्भ विंडो और प्रति मिनट 300 अनुरोधों की 429 दर सीमा लागू करते हैं। यदि आपको 401 त्रुटि प्राप्त होती है, तो आपकी API कुंजी अमान्य है, जबकि 402 त्रुटि का संकेत देती है कि आपको अपनी क्रिप्टो क्रेडिट शीर्ष अप करने की आवश्यकता है। सुचारू प्रसंस्करण सुनिश्चित करने के लिए अनुरोध बॉडी को 8 MB से कम रखें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)