Heretic LLM: Документация API

Базовый URL и аутентификация

Чтобы начать работу с API Heretic LLM, укажите базовый URL для вашего OpenAI-совместимого клиента: https://api.hereticllm.com/v1. API использует стандартную аутентификацию Bearer. Вы можете сгенерировать API-ключ, зарегистрировавшись по электронной почте и паролю на странице получения ключа. Ключ отображается сразу после регистрации и может быть regenerated в любое время, что аннулирует предыдущий.

Установите переменную окружения OPENAI_API_KEY или передайте ключ напрямую в конфигурации клиента. Убедитесь, что базовый URL обновлен до эндпоинта Heretic. Эта настройка позволяет использовать официальные SDK OpenAI без изменений в коде, просто заменив базовый URL и ключ.

Первый запрос

Выполните первый запрос к эндпоинту чат-завершений. Идентификатор модели — uncensored. Эта модель с открытыми весами настроена на ответы без отказов по контенту для законного использования взрослыми, что идеально подходит для нецензурного программирования, творчества или исследований. Контекстное окно поддерживает до 100 000 токенов для промпта и ответа вместе.

Ниже приведен базовый пример cURL для тестирования эндпоинта. Замените YOUR_API_KEY на ваш реальный ключ.

Ответ будет содержать стандартный объект формата OpenAI с сгенерированным текстом.

Copycurl https://api.hereticllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Интеграция Python SDK

Интегрируйте API в свои Python-приложения с помощью официального пакета openai. Библиотека автоматически обрабатывает сериализацию JSON и потоковую передачу. Инициализируйте клиент, передав API-ключ и правильный базовый URL. Затем вызовите chat.completions.create с идентификатором модели uncensored.

Этот подход работает беспроблемно как для синхронных, так и для асинхронных рабочих процессов. Модель отвечает на стандартные промпты, поддерживает вызов функций и потоковую передачу параметров так же, как и другие эндпоинты, совместимые с OpenAI. Вы можете передавать системные промпты для управления поведением модели или использовать сообщения пользователя для прямого взаимодействия.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Интеграция Node.js SDK

Для проектов на JavaScript и TypeScript используйте пакет npm openai. Настройте клиент с базовым URL Heretic и вашим API-ключом. API поддерживает стандартные структуры запросов, включая определения инструментов и вызов функций.

Убедитесь, что правильно обрабатываете ответ, особенно при использовании паттернов async/await. Модель возвращает текстовые ответы, которые можно напрямую обрабатывать в логике вашего приложения. Эта интеграция идеальна для создания чат-интерфейсов, автоматизированных агентов или конвейеров обработки данных, требующих возможностей LLM без цензуры.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковые ответы

Включите ответы в реальном времени, активировав потоковую передачу в запросе к API. Установите параметр stream в значение true. API будет возвращать поток Server-Sent Events (SSE), содержащий фрагменты текста по мере их генерации. Это снижает воспринимаемую задержку и обеспечивает более плавный пользовательский опыт для чат-приложений.

Каждый фрагмент в потоке содержит часть ответа. Обрабатывайте эти фрагменты инкрементально, чтобы обновлять интерфейс в реальном времени. Функция потоковой передачи полностью совместима с SDK OpenAI, поэтому вы можете использовать стандартные итераторы stream или слушатели событий для эффективной обработки данных.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Лимиты, ошибки и контекст

API устанавливает лимит 300 запросов в минуту на ключ и размер тела запроса до 8 МБ. При превышении лимита запросов вы получите ошибку 429. Ошибки аутентификации возвращают статус 401, указывая на недействительный или отсутствующий API-ключ. Если ваш предоплаченный баланс исчерпан, API возвращает ошибку 402, требующую пополнения.

Баланс не сгорает, пополнить можно от $10 с помощью криптовалюты (USDT или USDC), при крупных депозитах начисляются бонусные средства. Модель поддерживает контекстное окно на 100 000 токенов. Убедитесь, что ваши промпты и ответы укладываются в этот лимит. Подробнее о тарифах и лимитах см. на странице Тарифы.