빠른 시작: 앱 연결

필수 조건: SDK 설치

요청을 보내기 전에 언어별 공식 클라이언트 라이브러리를 설치하세요. 당사 엔드포인트는 동일한 JSON 스키마를 따르므로 모든 표준 openai API 대체 SDK와 호환됩니다. 즉시 텍스트 생성을 시작하기 위해 특수 드라이버나 추가 의존성이 필요하지 않습니다.

기본 URL 및 키 구성

트래픽을 프록시를 통해 라우팅하기 위해 특정 엔드포인트로 SDK 클라이언트를 설정하세요. 기본 URL을 HTTPS://api.llmapiproxy.com/v1로 설정하고 대시보드에서 생성한 키를 제공해야 합니다. 이 간단한 구성 변경으로 기존 애플리케이션의 핵심 로직을 수정하지 않고도 무장비 AI 백엔드를 사용할 수 있습니다.

첫 번째 채팅 완료 보내기

모델 ID를 사용하여 채팅 완성 엔드포인트로 표준 POST 요청을 보내세요. 서버는 입력을 처리하고 합법적인 성인 또는 논쟁적인 주제에 대한 필터링 없이 텍스트를 반환합니다. 응답 구조는 이미 알고 있는 표준 출력 형식과 일치합니다.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

스트리밍 및 토큰 수 활성화

스트리밍 모드(stream=true)를 요청 페이로드에 추가하여 생성되는 텍스트 토큰을 실시간으로 받으세요. 각 청크에는 사용량 데이터가 포함되어 있어 모델이 작성하는 동안 실시간으로 비용을 추적할 수 있습니다. 이 접근 방식은 최종 사용자에게 지각된 지연 시간을 줄이면서도 토큰 소비에 대한 정확한 가시성을 제공합니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

함수 호출 및 JSON 모드 처리

함수 호출을 활성화하거나 구조화된 출력을 위해 response_format을 json_object로 설정하세요. 모델은 복잡한 논리 작업을 거절하지 않고 지시를 정확하게 따릅니다. 이 기능은 신뢰할 수 있는 데이터 추출이 필요한 자동화 에이전트에 당사 프록시를 이상적으로 만듭니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

제한 사항, 오류 및 컨텍스트 윈도우

100,000토큰 컨텍스트 윈도우와 분당 300개의 요청에 대한 429 속도 제한을 적용합니다. 401 오류를 받으면 API 키가 무효이며, 402 오류는 크립토 크레딧을 충전해야 함을 나타냅니다. 원활한 처리를 위해 요청 본문은 8MB 미만으로 유지하십시오.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)