Heretic LLM: Tài liệu API

URL cơ bản và Xác thực

Để bắt đầu sử dụng API Heretic LLM, hãy trỏ máy khách tương thích OpenAI của bạn đến URL cơ sở của chúng tôi: https://api.hereticllm.com/v1. API sử dụng xác thực token Bearer tiêu chuẩn. Bạn có thể tạo khóa API bằng cách đăng ký chỉ với email và mật khẩu trên trang Tạo khóa API. Khóa được hiển thị ngay sau khi đăng ký và có thể được tạo lại bất cứ lúc nào, điều này sẽ vô hiệu hóa khóa trước đó.

Đặt biến môi trường OPENAI_API_KEY hoặc truyền khóa trực tiếp trong cấu hình máy khách của bạn. Đảm bảo URL cơ bản của bạn đã được cập nhật sang endpoint của Heretic. Cấu hình này cho phép bạn sử dụng các SDK OpenAI chính thức mà không cần thay đổi mã, chỉ bằng cách thay đổi URL cơ bản và khóa.

Yêu cầu đầu tiên

Thực hiện yêu cầu đầu tiên của bạn đến endpoint chat completions. Định danh mô hình là uncensored. Mô hình trọng số mở này được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp, khiến nó lý tưởng cho việc lập trình không kiểm duyệt, viết sáng tạo hoặc nghiên cứu. Cửa sổ ngữ cảnh hỗ trợ lên đến 100.000 token cho cả prompt và phần hoàn thành kết hợp.

Dưới đây là một ví dụ cURL cơ bản để kiểm tra endpoint. Thay thế YOUR_API_KEY bằng khóa thực tế của bạn.

Phản hồi sẽ là một đối tượng định dạng OpenAI tiêu chuẩn chứa văn bản được tạo ra.

Copycurl https://api.hereticllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Tích hợp SDK Python

Tích hợp API vào các ứng dụng Python của bạn bằng cách sử dụng gói openai chính thức. Thư viện xử lý tự động việc tuần tự hóa JSON và truyền phát. Khởi tạo máy khách với khóa API và URL cơ bản chính xác của bạn. Sau đó, gọi chat.completions.create với định danh mô hình uncensored.

Cách tiếp cận này hoạt động liền mạch cho cả quy trình đồng bộ và bất đồng bộ. Mô hình phản hồi với các prompt tiêu chuẩn, gọi hàm và các tham số truyền phát giống như các endpoint tương thích OpenAI khác. Bạn có thể truyền các prompt hệ thống để hướng dẫn hành vi của mô hình hoặc sử dụng các thông điệp người dùng để tương tác trực tiếp.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tích hợp SDK Node.js

Đối với các dự án JavaScript và TypeScript, hãy sử dụng gói npm openai. Cấu hình máy khách với URL cơ bản của Heretic và khóa API của bạn. API hỗ trợ các cấu trúc yêu cầu tiêu chuẩn, bao gồm định nghĩa công cụ và gọi hàm.

Hãy đảm bảo xử lý phản hồi đúng cách, đặc biệt khi sử dụng các mẫu async/await. Mô hình trả về các phản hồi văn bản có thể được xử lý trực tiếp trong logic ứng dụng của bạn. Tích hợp này lý tưởng để xây dựng giao diện trò chuyện, tác nhân tự động hoặc các đường ống xử lý dữ liệu yêu cầu khả năng LLM không kiểm duyệt.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phản hồi truyền phát (Streaming)

Bật phản hồi thời gian thực bằng cách bật truyền phát trong yêu cầu API của bạn. Đặt tham số stream thành true. API sẽ trả về luồng Sự kiện được máy chủ gửi đi (SSE) chứa các đoạn văn bản khi chúng được tạo ra. Điều này giảm độ trễ cảm nhận và cung cấp trải nghiệm người dùng mượt mà hơn cho các ứng dụng trò chuyện.

Mỗi đoạn trong luồng chứa một phần của phản hồi. Xử lý các đoạn này theo cách tăng dần để cập nhật giao diện người dùng của bạn theo thời gian thực. Tính năng truyền phát hoàn toàn tương thích với các SDK OpenAI, vì vậy bạn có thể sử dụng các bộ lặp stream hoặc trình lắng nghe sự kiện tiêu chuẩn để xử lý dữ liệu hiệu quả.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Giới hạn tốc độ, Lỗi và Ngữ cảnh

API áp dụng giới hạn 300 yêu cầu mỗi phút trên mỗi khóa và kích thước thân yêu cầu 8 MB. Nếu bạn vượt quá giới hạn tốc độ, bạn sẽ nhận được lỗi 429. Lỗi xác thực trả về trạng thái 401, cho biết khóa API không hợp lệ hoặc bị thiếu. Nếu tín dụng trả trước của bạn đã cạn kiệt, API trả về lỗi 402, yêu cầu bạn nạp tiền.

Tín dụng không bao giờ hết hạn và bạn có thể nạp tiền từ $10 bằng tiền điện tử (USDT hoặc USDC), với tín dụng bổ sung cho các khoản gửi lớn hơn. Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token. Đảm bảo các prompt và phần hoàn thành của bạn nằm trong giới hạn này. Để biết thêm chi tiết về giá cả và giới hạn, hãy truy cập trang Bảng giá.