Abliterated LLM이란 무엇인가요?

Abliteration 이해하기

Abliteration은 모델의 가중치를 직접 수정하여 무검열 LLM을 생성하는 데 사용되는 기술입니다. 새로운 데이터로 모델을 훈련하여 동작을 변경하는 전통적인 파인튜닝과 달리, abliteration은 콘텐츠 거부에 책임이 있는 특정 뉴런을 식별하고 'ablate'(제거하거나 약화)합니다. 이 과정은 '아니오'라고 말하는 뇌의 일부를 외과적으로 제거하는 것과 유사하며, 나머지 인지 능력은 그대로 유지됩니다.

이 방법은 프롬프트 엔지니어링이나 시스템 프롬프트 조정과 구별됩니다. 변경 사항이 모델의 아키텍처에 내장되어 있기 때문입니다. Abliterated 모델에 요청을 보내면 단순히 규칙을 따르는 것이 아니라, 내부 상태가 변경되어 거부가 덜 발생하게 됩니다. 이는 모델이 자유롭게 답변하도록 지속적으로 기억할 필요가 없으므로 더 자연스럽고 일관된 무검열 경험을 제공합니다.

검열된 모델의 문제점

대부분의 상업용 대규모 언어 모델은 심하게 검열됩니다. 질문에 답변할 지식이 있음에도 불구하고, 안전 필터로 인해 종종 거부합니다. 이는 원시 데이터가 필요한 개발자나 모델 동작을 연구하는 연구자에게 문제가 됩니다. 검열은 종종 취약합니다. 약간의 문구 변경으로도 거부가 트리거되거나, 제한된 주제와 관련된 키워드를 감지하여 유효한 질문에 대한 답변을 거부할 수 있습니다.

무검열 올라마 모델을 사용하는 사용자의 경우, 특정 방식으로 안전 레이어가 제거된 변형을 사용하지 않으면 이 문제가 발생합니다. Llama 3나 Mistral과 같은 표준 오픈 웨이트 모델은 내장된 안전 레이어를 포함하고 있습니다. 로컬에서 실행할 때 매개변수를 수동으로 조정하거나 사용자 정의 템플릿을 사용하지 않으면 동일한 거절 응답을 받게 됩니다. 이는 복잡성을 추가하며, 서로 다른 세션이나 프롬프트 간에 일관성 없는 결과를 초래할 수 있습니다.

Abliteration의 작동 방식

프로세스는 '거부 뉴런'을 찾기 위해 모델의 가중치를 분석하는 것으로 시작됩니다. 연구자들은 활성화 평균화 같은 기술을 사용하여 거부 동안 활성화되는 뉴런을 식별합니다. 식별되면 이러한 뉴런은 0으로 설정되거나 활성화 값을 조정하여 그 영향을 줄입니다. 이는 전체 모델을 재학습하지 않고 수행되므로 비교적 효율적인 프로세스입니다.

결과적으로 생성된 모델은 기존 지식과 추론 능력을 유지하지만 콘텐츠 거부에 대한 강한 충동은 없습니다. Abliteration이 모든 지식을 제거하는 것은 아니라는 점에 유의하세요. 이는 구체적으로 거부 동작을 대상으로 합니다. 모델은 여전히 훈련 데이터에 따라 '안전' 또는 '위험'한 것을 알고 있지만, 이러한 경계를 엄격하게 적용해야 한다는 강박감은 더 이상 없습니다. 이는 정답을 아는 것이 아니라 정답을 얻는 것을 목표로 하는 NSFW LLM 사용 사례에 이상적입니다.

Abliterated 모델의 이점

Abliteration을 통한 무검열 AI 모델 접근 방식의 주요 이점은 일관성입니다. 유효한 요청을 거부하는 잘못된 양성 결과가 줄어듭니다. 이는 자동화된 콘텐츠 생성이나 데이터 추출과 같이 신뢰성이 중요한 애플리케이션에 필수적입니다. 또한, abliterated 모델은 일반적으로 파인튜닝된 모델보다 기본 가중치가 더 정확하게 보존되므로 추론 및 코딩 작업에서 더 높은 품질을 유지합니다.

• 일관된 출력: 예기치 않은 거절이 적어 더 원활한 사용자 경험을 제공합니다.
• 보존된 지능: 기본 가중치가 대부분 변경되지 않았으므로 모델의 핵심 기능이 그대로 유지됩니다.
• 환각 감소: 새로운 데이터를 추가하지 않으므로 모델은 원래 훈련에서 크게 벗어나지 않습니다.
• 창의적 자유: 성숙하거나 논란이 되는 주제에 대해 판단 없이 모델과 상호작용해야 하는 작가와 아티스트에게 이상적입니다.

프로덕션에서 Abliterated 모델 사용

개발자가 프로덕션 환경에서 무검열 LLM을 사용하려면 컨텍스트 창과 토큰 제한을 신중하게 고려해야 합니다. 검열이 제거된 모델은 더 다양하고 때로는 더 긴 응답을 생성할 수 있으므로 토큰 사용을 효과적으로 관리하는 것이 중요합니다. 엄격한 필터링이 부족하므로 특정 사용 사례에 따라 자체 사후 처리 또는 검열 레이어를 구현해야 할 수도 있습니다.

이러한 모델을 통합할 때 애플리케이션이 가능한 모든 출력 범위를 처리할 수 있는지 확인하세요. Abliterated 모델은 더 미묘하거나 예상치 못한 답변을 제공할 수 있으며, 이는 기능이자 도전 과제가 될 수 있습니다. 민감한 주제를 다룰 때 특히 검열된 모델보다 다른 응답을 트리거할 수 있으므로 경계 사례에 대한 테스트가 필수적입니다. 목표는 최종 출력에 대한 제어를 유지하면서 모델의 원시 능력을 활용하는 것입니다.

Heretic LLM의 접근 방식

Heretic LLM은 신중하게 abliteration된 단일 모델을 제공하는 호스팅된 OpenAI 호환 API를 제공합니다. 우리는 '이단' 방법론을 격리하여 로컬 GPU 인프라를 관리하는 번거로움 없이 진정한 무검열 모델을 제공합니다. 우리 API 엔드포인트는 간단합니다: POST /v1/chat/completions, 표준 OpenAI SDK와 호환됩니다.

우리는 긴 문서나 복잡한 대화를 처리하는 데 필수적인 100,000 토큰 컨텍스트 창을 제공합니다. 모델은 합법적인 성인용 사용을 위해 콘텐츠 거부 없이 답변하도록 조정되었으며, 이는 원시 출력이 필요한 개발자에게 완벽합니다. 유료 사용량 기반 요금제에 가입하기 전에 기능을 테스트하기 위해 무검열 LLM 무료 체험 크레딧으로 시작할 수 있습니다.

파인튜닝된 모델과의 비교

파인튜닝은 모델에 새로운 데이터를 추가하는 반면, abliteration은 특정 동작을 제거합니다. 파인튜닝은 때로는 모델의 일반 지식을 저하시킬 수 있는 반면, abliteration은 이를 보존합니다. 파인튜닝은 의료나 법률 지식과 같은 특정 도메인 전문성을 추가하는 데 더 적합합니다. Abliteration은 검열 제거와 더 넓은 창의적 자유를 가능하게 하는 데 더 적합합니다.

귀사의 특정 은어에 대한 지식이 필요한 모델이 필요하면 파인튜닝이 최선입니다. 논란이 되는 주제에 대한 질문에 대해 거부하지 않는 모델이 필요하면 abliteration이 더 우수합니다. 두 접근 방식은 상호 보완적이지만 서로 다른 주요 목적을 위해 제공됩니다. 대부분의 무검열 코딩 LLM 또는 범용 무검열 어시스턴트를 찾는 사용자에게 abliteration은 원하는 동작에 더 직접적인 경로를 제공합니다.

Heretic LLM 시작하기

무검열 모델로 시작하려면 'API 키 받기' 페이지에 가입하세요. 즉시 API 키를 받게 되며, 이는 모든 OpenAI 호환 클라이언트와 함께 사용할 수 있습니다. 기본 URL은 https://api.hereticllm.com/v1이며, 모델 ID는 uncensored입니다. 초기 체험에는 신용카드가 필요 없으며, $0.50의 크레딧이 포함됩니다.

우리의 가격은 투명합니다: 입력 토큰 1M당 $0.25, 출력 토큰 1M당 $1.00. 크립토(USDT 또는 USDC)로 충전할 수 있으며, 크레딧은 만료되지 않습니다. 우리는 기술적 오버헤드 없이 abliterated LLM을 사용하고 싶은 개발자를 위해 단순하고 실용적인 API를 제공합니다. 오늘 가입하여 무검열 AI의 힘을 경험하세요.