Avvio rapido: Connetti la tua app

Prerequisiti: installazione dell'SDK

Installa la libreria client ufficiale per il tuo linguaggio prima di effettuare richieste. Il nostro endpoint funziona con qualsiasi SDK alternativo API openai standard perché seguiamo lo stesso schema JSON. Non hai bisogno di driver speciali o dipendenze aggiuntive per iniziare a generare testo immediatamente.

Configura URL di base e chiave

Indirizza il client SDK al nostro endpoint specifico per instradare il traffico attraverso il nostro proxy. Devi impostare l'URL di base su HTTPS://api.llmapiproxy.com/v1 e fornire la chiave generata sul dashboard. Questa semplice modifica alla configurazione permette alla tua applicazione esistente di utilizzare un backend AI senza filtri senza riscrivere la logica core.

Invia la tua prima completazione chat

Esegui una richiesta POST standard all'endpoint di completamento chat con l'ID del tuo modello. Il nostro server elabora l'input e restituisce testo senza filtrare argomenti adulti o controversi leciti. La struttura della risposta corrisponde al formato di output standard che già conosci.

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

Abilita lo Streaming e i Contatori dei Token

Aggiungi stream=true al payload della tua richiesta per ricevere i token di testo man mano che vengono generati. Ogni chunk include i dati di utilizzo, permettendoti di monitorare i costi in tempo reale mentre il modello scrive. Questo approccio riduce la latenza percepita per gli utenti finali fornendo al contempo una visibilità precisa sul consumo di token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gestisci la chiamata di funzioni e la modalità JSON

Utilizza il parametro tools per abilitare il function calling o imposta response_format su json_object per output strutturati. Il modello segue le tue istruzioni con precisione senza rifiutare compiti logici complessi. Questa capacità rende il nostro proxy ideale per agenti automatizzati che richiedono un'estrazione affidabile dei dati.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Limiti, Errori e Finestra di Contesto

Imponiamo una finestra di contesto di 100.000 token e un limite di velocità 429 di 300 richieste al minuto. Se ricevi un errore 401, la tua chiave API non è valida, mentre un errore 402 indica che devi ricaricare il tuo credito in criptovaluta. Mantieni i corpi delle richieste sotto gli 8 MB per garantire un'elaborazione fluida.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)