Pika-aloitus: Yhdistä sovelluksesi

Edellytykset: SDK-asennus

Asenna kielikohtainen asiakasohjelmisto ennen pyyntöjen tekemistä. Pääteemme toimii minkä tahansa vakiokäyttöliittymävaihtoehdon SDK:n kanssa, koska noudatamme samaa JSON-skeemaa. Et tarvitse erillisiä ajureita tai lisäriippuvuuksia aloittaaksesi tekstin tuottamisen heti.

Määritä base URL ja avain

Osoita SDK-asiakkaasi tiettyyn päätepisteeseesi ohjataksesi liikenteen välityspalvelimen kautta. Sinun on asetettava base URLi arvoon HTTPS://api.llmapiproxy.com/v1 ja toimitettava avain, jonka loit hallintapaneelista. Tämä yksinkertainen määritysmuutos mahdollistaa olemassa olevan sovelluksesi käyttää uncensored-tekoälytaustaa ilman ydinkoodin uudelleenkirjoittamista.

Lähetä ensimmäinen chat-valmispyyntösi

Tee vakio POST-pyyntö chat-täydennyspäätepisteeseen mallitunnuksesi kanssa. Palvelimemme käsittelee syötteen ja palauttaa tekstin suodattamatta laillisia aikuis- tai kiistanalaisia aiheita. Vastauksen rakenne vastaa vakiotulostemuotoa, jonka jo tunnet.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Ota käyttöön suoratoisto ja tokenimäärät

Lisää stream=true pyyntösi payloadiin saadaksesi tekstipalikoita niiden generoitumisvaiheessa. Jokainen palikka sisältää käyttödataa, mikä mahdollistaa kustannusten seurannan reaaliajassa mallin kirjoittaessa. Tämä lähestymistapa vähentää käyttäjien kokemaa viivettä ja antaa sinulle tarkan näkymän tokenien kulutukseen.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Käsittele funktiokutsut ja JSON-tila

Käytä tools-parametria ottaaksesi käyttöön function callingin tai aseta response_format arvoon json_object rakenteisille tuloksille. Malli noudattaa ohjeitasi tarkasti ilman monimutkaisten loogisten tehtävien hylkäämistä. Tämä kyky tekee välityspalvelustamme ihanteellisen automatisoiduille agenteille, jotka vaativat luotettavaa datan erottelua.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Rajoitukset, virheet ja kontekstiikkuna

Pakotamme 100 000 tokenin kontekstiikkunan ja 429-nopeusrajan, joka on 300 pyyntöä minuutissa. Jos saat 401-virheen, API-avaimesi on virheellinen, kun taas 402-virhe tarkoittaa, että sinun tulee täydentää kryptoluottamustasi. Pidä pyyntörungot alle 8 Mt varmistaaksesi sujuvan käsittelyn.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)