Швидкий старт: Підключіть ваш додаток

Передумови: Встановлення SDK

Встановіть офіційну бібліотеку клієнта для вашої мови перед надсиланням запитів. Наш ендпоінт працює з будь-яким SDK альтернативи openai API, оскільки ми дотримуємося тієї ж JSON-схеми. Вам не потрібні спеціальні драйвери або додаткові залежності, щоб почати генерувати текст миттєво.

Налаштуйте базовий URL та ключ

Направте клієнт SDK на наш конкретний ендпоінт для маршрутизації трафіку через наш проксі. Ви повинні встановити базову URL-адресу на HTTPS://api.llmapiproxy.com/v1 та надати ключ, згенерований на панелі керування. Ця проста зміна конфігурації дозволяє вашій існуючій програмі використовувати необмежений AI-бекенд без переписування основної логіки.

Надішліть свій перший запит на завершення діалогу

Зробіть стандартний POST-запит на кінцеву точку завершення чату з ідентифікатором вашої моделі. Наш сервер обробляє вхідні дані та повертає текст без фільтрації законних дорослих або суперечливих тем. Структура відповіді відповідає стандартному формату виводу, який вам уже відомий.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Увімкнути потокову передачу та підрахунок токенів

Додайте stream=true до тіла запиту, щоб отримувати токени тексту по мірі їх генерації. Кожен чанк містить дані про використання, що дозволяє відстежувати витрати в реальному часі під час написання моделлю. Цей підхід зменшує сприйняту затримку для кінцевих користувачів та надає вам точну видимість споживання токенів.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обробка виклику функцій та режиму JSON

Використовуйте параметр tools для увімкнення виклику функцій або встановіть response_format у json_object для структурованих виводів. Модель точно слідує вашим інструкціям без відмови від складних логічних завдань. Ця можливість робить наш проксі ідеальним для автоматизованих агентів, яким потрібне надійне витягування даних.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ліміти, помилки та контекстне вікно

Ми обмежуємо контекстне вікно на 100 000 токенів та ліміт швидкості 429 на 300 запитів на хвилину. Якщо ви отримуєте помилку 401, ваш API-ключ недійсний, тоді як помилка 402 вказує на те, що вам потрібно поповнити свій криптовалютний кредит. Тримайте тіла запитів меншими за 8 МБ, щоб забезпечити гладку обробку.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)