Быстрый старт: Подключение приложения

Предварительные требования: Установка SDK

Установите официальную клиентскую библиотеку для вашего языка перед отправкой запросов. Наш эндпоинт работает с любым стандартным SDK для альтернативы API openai, так как мы придерживаемся той же схемы JSON. Вам не нужны специальные драйверы или дополнительные зависимости, чтобы сразу начать генерацию текста.

Настройте базовый URL и ключ

Укажите базовый URL нашего SDK-клиента для нашего конкретного эндпоинта, чтобы направить трафик через наш прокси. Вы должны установить базовый URL на HTTPS://api.llmapiproxy.com/v1 и предоставить ключ, сгенерированный в панели управления. Это простое изменение конфигурации позволяет вашему существующему приложению использовать uncensored AI-бэкенд без переписывания основной логики.

Отправить первый запрос на завершение чата

Выполните стандартный POST-запрос к конечной точке завершения чата с идентификатором вашей модели. Наш сервер обрабатывает ввод и возвращает текст без фильтрации законных взрослых или спорных тем. Структура ответа соответствует стандартному формату вывода, который вам уже знаком.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Включить потоковую передачу и подсчёт токенов

Добавьте stream=true в полезную нагрузку запроса, чтобы получать текстовые токены по мере их генерации. Каждый чанк содержит данные об использовании, позволяя отслеживать расходы в реальном времени по мере работы модели. Этот подход снижает воспринимаемую задержку для конечных пользователей и дает вам точную видимость потребления токенов.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обрабатывайте вызовы функций и режим JSON

Используйте параметр tools для включения вызова функций или установите response_format в json_object для структурированных выводов. Модель точно следует вашим инструкциям, не отказываясь от сложных логических задач. Эта возможность делает наш прокси идеальным для автоматизированных агентов, которым требуется надежное извлечение данных.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Лимиты, Ошибки и Контекстное окно

Мы ограничиваем контекстное окно 100,000 токенами и лимитом частоты 429 в размере 300 запросов в минуту. Если вы получаете ошибку 401, ваш API-ключ недействителен, в то время как ошибка 402 указывает на то, что вам нужно пополнить крипто-кредит. Держите тела запросов менее 8 МБ для обеспечения плавной обработки.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)