เริ่มต้นอย่างรวดเร็ว: เชื่อมต่อแอปของคุณ

ข้อกำหนดเบื้องต้น: การติดตั้ง SDK

ติดตั้งไลบรารีไคลเอนต์ทางการสำหรับภาษาของคุณก่อนทำการร้องขอ เอนด์พอยต์ของเราทำงานกับ SDK ทางเลือก API openai มาตรฐานใดๆ เนื่องจากเราปฏิบัติตามแผนผัง JSON เดียวกัน คุณไม่จำเป็นต้องใช้ไดรเวอร์พิเศษหรือดีเพนเดนซีเพิ่มเติมเพื่อเริ่มสร้างข้อความทันที

กำหนดค่า URL พื้นฐานและคีย์

ชี้ SDK client ของคุณไปยัง endpoint เฉพาะเพื่อจัดเส้นทางจราจรผ่านพร็อกซีของเรา คุณต้องตั้งค่า URL พื้นฐานเป็น HTTPS://api.llmapiproxy.com/v1 และระบุคีย์ที่คุณสร้างบนแดชบอร์ด การเปลี่ยนแปลงการกำหนดค่าเพียงเล็กน้อยนี้ทำให้แอปพลิเคชันที่มีอยู่ของคุณสามารถใช้แบ็กเอนด์ AI แบบไม่มีเซนเซอร์ได้โดยไม่ต้องเขียนลอจิกหลักใหม่

ส่งคำขอ Chat Completion ครั้งแรกของคุณ

ส่งคำขอ POST มาตรฐานไปยังจุดจบ chat completions พร้อม model ID ของคุณ เซิร์ฟเวอร์ของเราประมวลผลอินพุตและส่งข้อความโดยไม่กรองหัวข้อผู้ใหญ่ที่ถูกต้องตามกฎหมายหรือหัวข้อที่ถกเถกัน โครงสร้างการตอบกลับตรงกับรูปแบบเอาต์พุตมาตรฐานที่คุณคุ้นเคย

Copycurl https://api.llmapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fetch the current temperature in Tokyo"}]
  }'

เปิดใช้งานการสตรีมและนับจำนวนโทเค็น

เพิ่ม stream=true ใน payload ของคำขอของคุณเพื่อรับโทเค็นข้อความเมื่อถูกสร้าง แต่ละ chunk รวมถึงข้อมูลการใช้งาน ทำให้คุณสามารถติดตามต้นทุนแบบเรียลไทม์ขณะที่โมเดลเขียน วิธีนี้ลดความล่าช้าที่ผู้ใช้รู้สึกได้ขณะเดียวกันก็ให้ความชัดเจนที่แม่นยำเกี่ยวกับการบริโภคโทเค็น

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

จัดการ Function Calling และโหมด JSON

ใช้พารามิเตอร์ tools เพื่อเปิดใช้ฟังก์ชันคอลลิงหรือตั้งค่า response_format เป็น json_object สำหรับผลลัพธ์ที่มีโครงสร้าง โมเดลปฏิบัติตามคำแนะนำของคุณอย่างแม่นยำโดยไม่ปฏิเสธงานตรรกะที่ซับซ้อน ความสามารถนี้ทำให้พร็อกซีของเราเหมาะสำหรับเอเจนต์อัตโนมัติที่ต้องการการแยกข้อมูลที่เชื่อถือได้

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ข้อจำกัด, ข้อผิดพลาด และหน้าต่างบริบท

เราบังคับใช้ context window ขนาด 100,000 โทเค็น และจำกัดอัตรา 429 ที่ 300 requests ต่อนาที หากคุณได้รับ error 401 แสดงว่า API key ของคุณไม่ถูกต้อง ในขณะที่ error 402 หมายถึงคุณต้องเติมเครดิตคริปโตของคุณ รักษาขนาด request body ให้ต่ำกว่า 8 MB เพื่อให้การประมวลผลราบรื่น

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)