Hurtigstart: Forbind din app

Forudsætninger: SDK-installation

Installer den officielle klientbibliotek til dit sprog, før du udfører anmodninger. Vores endpoint fungerer med ethvert standard openai API-alternativ SDK, fordi vi følger den samme JSON-skema. Du behøver ikke specielle drivere eller ekstra afhængigheder for at begynde at generere tekst med det samme.

Konfigurer Base URL og Key

Peg din SDK-klient på vores specifikke endpoint for at dirigere trafik gennem vores proxy. Du skal indstille base URL'en til HTTPS://api.llmapiproxy.com/v1 og angive den nøgle, du genererede på dashboardet. Denne enkle konfigurationsændring gør det muligt for din eksisterende applikation at bruge en ubegrænset AI-backend uden at omskrive din kerne logik.

Send din første chat-gennemførelse

Lav en standard POST-anmodning til chat-completions-endepunktet med dit model-ID. Vores server behandler inputtet og returnerer tekst uden at filtrere lovligt voksen eller kontroversielt indhold. Svarstrukturen matcher det standard output-format, du allerede kender.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Aktiver Streaming og token-tælling

Tilføj stream=true til din anmodningspayload for at modtage teksttokens, mens de genereres. Hver chunk indeholder forbrugsdata, så du kan spore omkostninger i realtid, mens modellen skriver. Denne tilgang reducerer den opfattede forsinkelse for slutbrugere og giver dig præcis indsigt i tokenforbrug.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Håndter function calling og JSON-tilstand

Brug tools-parametret til at aktivere funktionssamtale eller indstil response_format til json_object for strukturerede output. Modellen følger dine instruktioner præcist uden at afvise komplekse logiske opgaver. Denne funktion gør vores proxy ideel til automatiserede agenter, der kræver pålidelig dataudtrækning.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Begrænsninger, fejl og kontekstvindue

Vi håndhæver et kontekstvindu på 100.000 tokens og en 429-ratebegrænsning på 300 anmodninger per minut. Hvis du modtager en 401-fejl, er din API-nøgle ugyldig, mens en 402-fejl indikerer, at du skal toppe op med din kryptokredit. Hold anmodningskroppe under 8 MB for at sikre jævn behandling.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)