Heretic LLM: APIドキュメント

ベースURLと認証

Heretic LLM APIを使用するには、OpenAI互換クライアントをベースURLのhttps://api.hereticllm.com/v1に設定します。APIは標準的なBearerトークン認証を使用します。APIキーは、Get API Keyページでメールアドレスとパスワードのみでサインアップすることで生成できます。キーはサインアップ直後に表示され、いつでも再生成可能ですが、再生成すると以前のキーは無効になります。

環境変数 OPENAI_API_KEY を設定するか、クライアント設定にキーを直接渡します。ベースURLをHereticエンドポイントに更新してください。この設定により、ベースURLとキーを置き換えるだけで、コード変更なしで公式のOpenAI SDKを使用できます。

最初のリクエスト

チャット補完エンドポイントに最初のリクエストを送信します。モデル識別子はuncensoredです。このオープンウェイトモデルは、法的な成人利用に対してコンテンツ拒否なしで回答するようにチューニングされており、無検閲のコーディング、クリエイティブライティング、または研究に最適です。コンテキストウィンドウは、プロンプトと補完を合わせて最大100,000トークンをサポートします。

以下はエンドポイントをテストするための基本的なcURL例です。YOUR_API_KEY を実際のキーに置き換えてください。

応答は、生成されたテキストを含む標準的なOpenAI形式のオブジェクトになります。

Copycurl https://api.hereticllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK統合

公式の openai パッケージを使用して、APIをPythonアプリケーションに統合します。ライブラリはJSONシリアライズとストリーミングを自動的に処理します。API キーと正しいベースURLを使用してクライアントを初期化します。次に、モデルID uncensored で chat.completions.create を呼び出します。

このアプローチは同期および非同期のワークフローの両方でシームレスに動作します。モデルは標準的なプロンプト、関数呼び出し、ストリーミングパラメータに応答します。モデルの動作をガイドするシステムプロンプトを渡すか、直接対話にユーザーメッセージを使用できます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK統合

JavaScriptおよびTypeScriptプロジェクトでは、openai npmパッケージを使用します。HereticのベースURLとAPIキーを使用してクライアントを設定します。APIはツール定義や関数呼び出しを含む標準的なリクエスト構造をサポートしています。

特にasync/awaitパターンを使用する際は、応答を正しく処理してください。モデルはアプリケーションロジックで直接処理できるテキスト応答を返します。この統合は、無検閲LLM機能が必要なチャットインターフェース、自律型エージェント、またはデータ処理パイプラインの構築に最適です。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミング応答

APIリクエストでストリーミングを有効にしてリアルタイム応答を有効にします。streamパラメータをtrueに設定します。APIは生成されるテキストのチャンクを含むServer-Sent Events (SSE)ストリームを返します。これにより体感レイテンシが削減され、チャットアプリケーションでよりスムーズなユーザーエクスペリエンスが提供されます。

ストリームの各チャンクには応答の一部が含まれています。これらのチャンクを逐次処理して、UIをリアルタイムで更新してください。ストリーミング機能はOpenAI SDKと完全に互換性があるため、データを効率的に処理するために標準の stream イテレータまたはイベントリスナーを使用できます。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

レート制限、エラー、コンテキスト

APIはキーごとに1分あたり300リクエスト、リクエストボディサイズ8 MBの制限を適用します。レート制限を超えると429エラーが発生します。認証エラーは401ステータスを返し、無効または欠落したAPIキーを示します。前払いクレジットが枯渇すると、チャージが必要であることを示す402エラーが返されます。

クレジットは期限切れにならず、より大きな入金にはボーナスクレジットが付与されます。モデルは100,000トークンのコンテキストウィンドウをサポートしています。プロンプトと補完がこの制限内に収まるようにしてください。価格と制限の詳細については、Pricingページをご覧ください。