中文 ▾
获取 API 密钥

Heretic LLM什么是 Abliterated LLM?

什么是 Abliterated LLM?

Abliterated LLM 是一个基础模型,其安全机制已从权重中化学移除,使其能够回答争议性或成人问题而无需拒绝。与添加新知识的微调不同,Abliteration 剥离了负责内容过滤的特定神经通路,创建了一个结构上无审查的模型。这种方法保留了模型的原始推理和编码能力,同时消除了标准商业 API 中常见的“拒绝”行为。

已更新

要点

  • Abliteration 直接从模型中移除安全权重,比微调更好地保留基础智能。
  • 生成的模型回答争议性或 NSFW 提示词时,不会出现典型的“我做不到”的拒绝。
  • Heretic LLM 为此特定的无审查行为提供托管的 OpenAI 兼容 API。
  • Abliterated 模型非常适合需要原始模型输出的研究人员、创意作家和开发者。

理解 Abliteration

Abliteration 是一种通过直接修改模型权重来创建无审查 LLM的技术。与通过在新数据上训练模型来改变其行为的传统微调不同,Abliteration 识别并“消融”(移除或减弱)负责内容拒绝的特定神经元。这个过程类似于手术移除大脑中说“不”的部分,同时保留其余的认知能力。

此方法不同于提示词工程或系统提示词调整,因为该更改已内置于模型架构中。当你向经过消融的模型发送请求时,它不仅仅是遵循一条规则;其内部状态已发生改变,从而降低拒绝的可能性。这带来了更自然且一致的无审查体验,因为模型不需要被不断提醒以自由回答。

审查模型的弊端

大多数商业大型语言模型都受到严格审查。即使它们拥有回答问题的知识,也常因安全过滤器而拒绝。这对于需要原始数据的开发人员或研究模型行为的研究人员来说是个问题。这种审查往往很脆弱;措辞的微小变化就可能触发拒绝,或者模型可能因为检测到与受限主题相关的关键词而拒绝回答有效问题。

对于无审查 Ollama 模型用户来说,除非使用专门经过消融的变体,否则也会遇到此问题。标准的开放权重模型(如 Llama 3 或 Mistral)内置了安全层。当你在本地运行它们时,你会遇到同样的拒绝情况,除非你手动调整参数或使用自定义模板。这增加了复杂性,并可能导致不同会话或提示词之间结果不一致。

Abliteration 的工作原理

该过程始于分析模型权重以找到“拒绝神经元”。研究人员使用激活平均等技术来识别在拒绝期间激活的神经元。一旦识别,这些神经元要么被归零,要么调整其激活值以减少其影响。此过程无需重新训练整个模型,因此相对高效。

结果是一个保留原始知识和推理能力但缺乏强烈拒绝冲动的模型。需要注意的是,Abliteration 并不会移除所有知识;它专门针对拒绝行为。模型仍然知道根据训练数据什么是“安全”或“不安全”的,但它不再感到有义务严格强制执行这些界限。这使得它非常适合NSFW LLM用例,其目标是获取答案,而不仅仅是知道答案。

Abliterated 模型的优势

通过消融方法实现无审查 AI 模型的主要优势在于一致性。你会减少模型拒绝有效请求的误报。这对于可靠性至关重要的应用(如自动生成内容或数据提取)至关重要。此外,经过消融的模型在推理和编码任务中通常能保持更高的质量,因为基础权重比经过大量微调的模型得到更忠实的保留。

  • 一致输出:更少的意外拒绝带来更流畅的用户体验。
  • 保留智能:模型的核心能力保持完整,因为基础权重基本未变。
  • 减少幻觉: 由于不添加新数据,模型不会偏离其原始训练数据太多。
  • 创作自由:非常适合需要模型参与成熟或争议性话题且不带评判的作家和艺术家。

在生产环境中使用 Abliterated 模型

对于开发者来说,在生产环境中使用无审查 LLM需要仔细考虑上下文窗口和 token 限制。由于 Abliterated 模型可以生成更多样化且有时更长的响应,因此有效管理 token 使用量非常重要。缺乏严格过滤也意味着如果您的特定用例需要,您可能需要实施自己的后处理或审核层。

在集成这些模型时,确保您的应用程序处理所有可能的输出范围。Abliterated 模型可能会提供更细致或出人意料的回答,这既是一个特点也是一个挑战。测试边缘情况至关重要,尤其是在处理可能比审查模型触发不同响应的敏感主题时。目标是在保持对最终输出控制的同时利用模型的原始能力。

Heretic LLM 的方法

Heretic LLM 提供托管的、兼容 OpenAI 的 API,服务于一个精心经过消融的模型。我们隔离了“异端”方法,确保你获得的模型真正无审查,且无需管理本地 GPU 基础设施的麻烦。我们的 API 接口非常直接:POST /v1/chat/completions,兼容标准 OpenAI SDK。

我们提供 100,000 token 的上下文窗口,这对于处理长文档或复杂对话至关重要。该模型经过调整,可在合法成人用途中避免内容拒绝,非常适合需要原始输出的开发者。你可以使用 无审查 LLM 免费试用额度来测试其功能,然后再决定是否采用按量付费计划。

与微调模型的比较

虽然微调向模型添加新数据,但 Abliteration 移除特定行为。微调有时会降低模型的通用知识,而 Abliteration 则保留它。微调更适合添加特定的领域专业知识,如医疗或法律知识。Abliteration 更适合去除审查并实现更广泛的创作自由。

如果您需要一个了解您公司特定行话的模型,微调是正确选择。如果您需要一个不会拒绝回答关于争议性主题问题的模型,Abliteration 更胜一筹。这两种方法是互补的,但服务于不同的主要目的。对于大多数寻求无审查编码 LLM或通用无审查助手的大多数用户来说,Abliteration 提供了更直接的路径来实现所需行为。

开始使用 Heretic LLM

要开始使用我们的无审查模型,请在“获取 API 密钥”页面注册。你将立即获得一个 API 密钥,可用于任何兼容 OpenAI 的客户端。基础 URL 为https://api.hereticllm.com/v1,模型 ID 为uncensored。初始试用无需信用卡,包含 $0.50 的额度。

我们的定价透明:每 1M 输入 token $0.25,每 1M 输出 token $1.00。您可以使用加密货币(USDT 或 USDC)充值,且额度永不过期。我们提供简单直接的 API,供希望使用Abliterated LLM而不需技术开销的开发者使用。立即注册,体验无审查 AI 的力量。

问答

Abliteration 与微调有什么区别?

Abliteration 移除负责拒绝的特定权重,同时保留模型的原始知识。微调通过添加新数据来训练模型的新行为,这有时会降低通用性能。Abliteration 更适合去审查,而微调更适合添加领域专业知识。

Heretic LLM 模型是开源的吗?

我们提供经过 Abliteration 处理的开放权重模型。虽然基础模型是开放的,但我们特定的 Abliteration 流程和托管服务是专有的。您可以享受开放权重模型的好处以及托管 API 的便利性。

我可以使用 Heretic LLM API 进行编码任务吗?

是的,我们的模型是一个 <strong>无审查编码 LLM</strong>,保留了强大的编码能力。它不会拒绝为争议性主题生成代码,也不会因标准安全过滤器的干扰而无法解释复杂概念。这对于需要原始代码生成的开发者来说非常理想。

我如何开始使用 API?

在我们的“获取 API 密钥”页面注册以获取 API 密钥。然后,您可以使用 OpenAI SDK,基础 URL 为 <code>https://api.hereticllm.com/v1</code>,模型 ID 为 <code>uncensored</code>。新账户可获得 7 天有效的 $0.50 试用额度,无需信用卡。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是整个设置过程。

获取 API 密钥阅读文档