Rychlý start: Připojení aplikace

Požadavky: Instalace SDK

Nainstalujte oficiální klientskou knihovnu pro váš jazyk před odesláním požadavků. Naše endpoint funguje s jakýmkoli standardním alternativním SDK openai API, protože dodržujeme stejný JSON schéma. Nemusíte používat speciální ovladače ani další závislosti pro okamžité generování textu.

Konfigurujte základní URL a klíč

Nasměrujte klienta SDK na náš konkrétní endpoint pro směrování provozu přes náš proxy server. Musíte nastavit základní URL na HTTPS://api.llmapiproxy.com/v1 a zadat klíč, který jste vygenerovali v ovládacím panelu. Tato jednoduchá změna konfigurace umožní vašemu existujícímu aplikaci používat backend AI bez omezení bez přepisování základní logiky.

Odeslat První dokončení chatu

Odešlete standardní POST požadavek na endpoint dokončení chatu s ID vašeho modelu. Náš server zpracuje vstup a vrátí text bez filtrování legálních témat pro dospělé nebo kontroverzních témat. Struktura odpovědi odpovídá standardnímu formátu výstupu, který již znáte.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Povolit streamování a počty tokenů

Přidejte stream=true do payloadu požadavku pro přijímání textových tokenů, jak jsou generovány. Každý chunk obsahuje data o využití, což vám umožňuje sledovat náklady v reálném čase, jak model píše. Tento přístup snižuje vnímanou latenci pro koncové uživatele a zároveň poskytuje přesnou viditelnost spotřeby tokenů.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zvládněte volání funkcí a režim JSON

Použijte parametr tools k povolení volání funkcí nebo nastavte response_format na json_object pro strukturované výstupy. Model přesně dodržuje vaše pokyny bez odmítání složitých logických úkolů. Tato schopnost činí náš proxy ideálním pro automatizované agenty, které vyžadují spolehlivou extrakci dat.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Limity, chyby a kontextové okno

Vynucujeme kontextové okno o velikosti 100 000 tokenů a limit rychlosti 429 ve výši 300 požadavků za minutu. Pokud obdržíte chybu 401, váš API klíč je neplatný, zatímco chyba 402 indikuje, že potřebujete doplnit svůj kryptoměnový kredit. Udržujte těla požadavků pod 8 MB, aby bylo zajištěno hladké zpracování.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)