Heretic LLM: เอกสาร API

URL ฐานและการตรวจสอบสิทธิ์

เพื่อเริ่มใช้งาน API ของ Heretic LLM ให้ชี้ไคลเอนต์ที่เข้ากันได้กับ OpenAI ไปยัง URL พื้นฐานของเรา: https://api.hereticllm.com/v1 API ใช้การตรวจสอบสิทธิ์ด้วยโทเคน Bearer มาตรฐาน คุณสามารถสร้างคีย์ API ได้โดยการสมัครสมาชิกด้วยเพียงอีเมลและรหัสผ่านในหน้า Get API Key คีย์จะแสดงทันทีหลังการสมัครสมาชิกและสามารถสร้างใหม่ได้ตลอดเวลา ซึ่งจะทำให้คีย์ก่อนหน้าหมดอายุ

ตั้งค่าตัวแปรสิ่งแวดล้อม OPENAI_API_KEY หรือส่งคีย์โดยตรงในการกำหนดค่าไคลเอนต์ของคุณ ตรวจสอบให้แน่ใจว่า URL ฐานของคุณอัปเดตเป็นเอนด์พอยต์ของ Heretic การตั้งค่านี้ช่วยให้คุณใช้ SDK อย่างเป็นทางการของ OpenAI ได้โดยไม่ต้องเปลี่ยนโค้ด เพียงแค่เปลี่ยน URL ฐานและคีย์

คำขอแรก

ส่งคำขอแรกไปยังเอนด์พอยต์ chat completions ตัวระบุโมเดลคือ uncensored โมเดลแบบเปิดน้ำหนักนี้ได้รับการปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ทำให้เหมาะสำหรับการเขียนโค้ดแบบไม่เซ็นเซอร์ การเขียนเชิงสร้างสรรค์ หรือการวิจัย หน้าต่างบริบทรองรับโทเคนได้สูงสุด 100,000 โทเคนสำหรับทั้งพรอมต์และการสร้างข้อความรวมกัน

ด้านล่างคือตัวอย่าง cURL พื้นฐานเพื่อทดสอบเอนด์พอยต์ แทนที่ YOUR_API_KEY ด้วยคีย์จริงของคุณ

การตอบกลับจะเป็นวัตถุในรูปแบบมาตรฐานของ OpenAI ที่มีข้อความที่สร้างโดยโมเดล

Copycurl https://api.hereticllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

การผสาน SDK Python

ผสาน API เข้ากับแอปพลิเคชัน Python ของคุณโดยใช้แพ็คเกจ openai ทางการ ไลบรารีจัดการการแปลงข้อมูล JSON และการสตรีมมิงอัตโนมัติ เริ่มต้นไคลเอนต์ด้วยคีย์ API และ URL ฐานที่ถูกต้อง จากนั้นเรียกใช้ chat.completions.create ด้วยรหัสโมเดล uncensored

วิธีนี้ทำงานได้อย่างราบรื่นทั้งสำหรับเวิร์กโฟลว์แบบซิงโครนัสและอะซิงโครนัส โมเดลตอบสนองต่อพรอมต์มาตรฐาน การเรียกใช้ฟังก์ชัน และพารามิเตอร์สตรีมมิง เหมือนกับเอนด์พอยต์ที่เข้ากันได้กับ OpenAI อื่นๆ คุณสามารถส่งพรอมต์ระบบเพื่อควบคุมพฤติกรรมของโมเดลหรือใช้ข้อความผู้ใช้สำหรับการโต้ตอบโดยตรง

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การผสาน SDK Node.js

สำหรับโปรเจกต์ JavaScript และ TypeScript ใช้แพ็คเกจ npm openai กำหนดค่าไคลเอนต์ด้วย URL ฐานของ Heretic และคีย์ API ของคุณ API รองรับโครงสร้างคำขอมาตรฐาน รวมถึงคำจำกัดความของเครื่องมือและการเรียกใช้ฟังก์ชัน

ตรวจสอบให้แน่ใจว่าคุณจัดการการตอบกลับได้อย่างถูกต้อง โดยเฉพาะเมื่อใช้รูปแบบ async/await โมเดลส่งคืนข้อความที่สามารถประมวลผลโดยตรงในตรรกะแอปพลิเคชันของคุณ การผสานนี้เหมาะสำหรับการสร้างอินเทอร์เฟซแชท ตัวแทนอัตโนมัติ หรือท่อประมวลผลข้อมูลที่ต้องการความสามารถ LLM แบบไม่เซ็นเซอร์

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตอบกลับแบบสตรีมมิง

เปิดใช้งานการตอบกลับแบบเรียลไทม์โดยการเปิดใช้งานสตรีมมิงในคำขอ API ของคุณ ตั้งค่าพารามิเตอร์ stream เป็น true API จะส่งคืนสตรีม Server-Sent Events (SSE) ที่มีชิ้นส่วนข้อความเมื่อสร้าง ลดความล่าช้าที่รับรู้และให้ประสบการณ์ผู้ใช้ที่ราบรื่นยิ่งขึ้นสำหรับแอปพลิเคชันแชท

แต่ละชิ้นในสตรีมมีส่วนของคำตอบ จัดการชิ้นส่วนเหล่านี้แบบเพิ่มทีละน้อยเพื่ออัปเดต UI ของคุณแบบเรียลไทม์ คุณสมบัติสตรีมมิงเข้ากันได้เต็มที่กับ SDK ของ OpenAI ดังนั้นคุณสามารถใช้ตัววนซ้ำ stream หรือตัวฟังเหตุการณ์มาตรฐานเพื่อประมวลผลข้อมูลได้อย่างมีประสิทธิภาพ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ขีดจำกัดอัตรา ข้อผิดพลาด และบริบท

API กำหนดขีดจำกัด 300 คำขอต่อนาทีต่อคีย์และขนาดร่างกายคำขอ 8 MB หากคุณเกินขีดจำกัดอัตรา คุณจะรับข้อผิดพลาด 429 ข้อผิดพลาดการตรวจสอบสิทธิ์จะส่งสถานะ 401 ซึ่งบ่งชี้ว่าคีย์ API ไม่ถูกต้องหรือหายไป หากเครดิตแบบเติมเงินล่วงหน้าของคุณหมด API จะส่งข้อผิดพลาด 402 ซึ่งต้องการการเติมเงิน

เครดิตไม่หมดอายุ และคุณสามารถเติมเงินเริ่มต้นที่ $10 โดยใช้คริปโต (USDT หรือ USDC) พร้อมเครดิตโบนัสสำหรับการฝากเงินจำนวนมากขึ้น โมเดลรองรับหน้าต่างบริบทขนาด 100,000 โทเคน ตรวจสอบให้แน่ใจว่าพรอมต์และการสร้างข้อความของคุณอยู่ในขีดจำกัดนี้ สำหรับรายละเอียดเพิ่มเติมเกี่ยวกับราคาและขีดจำกัด โปรดไปที่หน้า Pricing