Mula Cepat: Sambungkan aplikasi anda

Prasyarat: Pemasangan SDK

Pasang perpustakaan klien rasmi untuk bahasa anda sebelum membuat permintaan. Hujung sambungan kami berfungsi dengan mana-mana SDK alternatif API openai piawai kerana kami mengikuti skema JSON yang sama. Anda tidak memerlukan pemacu khas atau kebergantungan tambahan untuk mula menjana teks dengan serta-merta.

Konfigurasikan URL Asas dan Kunci

Arahkan klien SDK anda ke hujung khusus kami untuk mengalihkan trafik melalui proksi kami. Anda mesti menetapkan URL asas kepada HTTPS://api.llmapiproxy.com/v1 dan berikan kunci yang anda jana di papan pemuka. Perubahan konfigurasi mudah ini membolehkan aplikasi sedia ada anda menggunakan backend AI tanpa sensor tanpa menulis semula logik teras anda.

Hantar Penyelesaian Chat Pertama Anda

Buat permintaan POST standard ke hujung titik penyelesaian chat dengan ID model anda. Pelayan kami memproses input dan mengembalikan teks tanpa menapis topik dewasa atau kontroversi yang sah. Struktur respons sepadan dengan format output standard yang sudah anda ketahui.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Aktifkan Aliran dan Kiraan Token

Tambah stream=true ke payload permintaan anda untuk menerima token teks semasa ia dijana. Setiap chunk termasuk data penggunaan, membolehkan anda menjejak kos secara masa nyata semasa model menulis. Pendekatan ini mengurangkan latensi yang dirasakan oleh pengguna akhir sambil memberikan visibiliti tepat ke atas penggunaan token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani Panggilan Fungsi dan Mod JSON

Gunakan parameter alat untuk mengaktifkan panggilan fungsi atau tetapkan response_format kepada json_object untuk output berstruktur. Model mengikuti arahan anda dengan tepat tanpa menolak tugas logik kompleks. Keupayaan ini menjadikan proksi kami sesuai untuk ejen automatik yang memerlukan pengekstrakan data yang boleh dipercayai.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Had, Ralat, dan Tetingkap Konteks

Kami mengenakan jendela konteks 100,000 token dan had kadar 429 sebanyak 300 permintaan per minit. Jika anda menerima ralat 401, kunci API anda tidak sah, manakala ralat 402 menunjukkan anda perlu menambah baki kredit kripto anda. Pastikan badan permintaan di bawah 8 MB untuk memastikan pemprosesan yang lancar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)