Gyors beállítások: Alkalmazás csatlakoztatása

Előfeltételek: SDK telepítés

Telepítse a hivatalos klienskönyvtárat a nyelvéhez a kérések megtevése előtt. Végpontunk bármely szabványos openai API alternatív SDK-val működik, mert ugyanazt a JSON sémát követjük. Nem szükségesek speciális illesztőprogramok vagy extra függőségek a szöveggenerálás azonnali megkezdéséhez.

Alap URL és kulcs konfigurálása

Irányítsd SDK-kliensedet a specifikus végpontra a forgalom proxyn keresztüli irányításához. A bázis URL-t a HTTPS://api.llmapiproxy.com/v1 értékre kell állítanod, és meg kell adnod a műszerfalon generált kulcsot. Ez az egyszerű konfigurációs változtatás lehetővé teszi, hogy meglévő alkalmazásod uncensored AI háttérrendszert használjon a maglogika átírása nélkül.

Küldje el az első Chat Completion kérést

Tegyen egy szabványos POST kérést a chat completions végpontra a modellazonosítójával. Szerverünk feldolgozza a bemenetet, és szöges választ ad a jogszerű felnőtt vagy vitatott témák szűrése nélkül. A válasz struktúrája megegyezik a már ismert szabványos kimeneti formátummal.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Streamelés és tokenmennyiségek engedélyezése

Adjon stream=true paramétert a kérés payloadjához a szöveges tokenek valós idejű fogadásához. Minden chunk tartalmaz felhasználási adatokat, így valós időben nyomon követheti a költségeket, ahogy a modell ír. Ez a megközelítés csökkenti a végfelhasználók számára észlelt késleltetést, miközben pontos betekintést ad a tokenfogyasztásba.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kezelje a függvényhívást és a JSON módot

Használja a tools paramétert a funkcióhívás engedélyezéséhez, vagy állítsa a response_format értékét json_object-re a strukturált kimenetekhez. A modell pontosan követi az utasításait elutasítás nélkül komplex logikai feladatoknál. Ez a képesség teszi a proxynkat ideálissá az automatizált ügynökök számára, amelyek megbízható adat-kinyerést igényelnek.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Korlátok, hibák és kontextus ablak

100 000 tokenes kontextusablakot és 300 percenkénti 429-es átfolyási limitet alkalmazunk. Ha 401-es hibát kap, az API-kulcsa érvénytelen, míg a 402-es hiba azt jelzi, hogy fel kell töltenie a kriptovaluta-hitelét. Tartsa a kérelemtörzseket 8 MB alatt a zökkenőmentes feldolgozás érdekében.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)