2026년 검열 없는 오픈 모델: 애블리터레이션, 재학습, 조종 가능 모델과 각각의 비용
작성자 ReviewRamble editors ·
절대 거부하지 않는 오픈 모델이 원래 모델보다 더 유능한 것은 아닙니다. 학습된 반사 작용 하나를 잃었고, 그와 함께 가중치 안에 들어 있던 유일한 안전 검사도 잃었습니다. 2026년에 널리 쓰이는 방법은 세 가지입니다. 가중치를 편집해 거부를 잘라내는 방법, 거부를 걸러낸 데이터로 재학습하는 방법, 그리고 시스템 프롬프트가 정하는 어떤 정책이든 따르도록 모델을 학습시키는 방법입니다. 드는 비용도, 망가뜨리는 것도 서로 다르지만, 남는 일은 같습니다. 이제 검사를 어디에 둘지 정하는 일입니다.
이 가이드는 실행할 모델을 고르는 사람을 위한 것이지, 모델을 수정하는 사람을 위한 것이 아닙니다. 아래의 모든 수치는 논문, 모델 카드, 연구 보고서에서 나왔으며 해당 위치에 링크를 달았습니다. 저희가 이 모델들을 직접 실행해 본 것은 아닙니다. 이미 모델을 골랐고 그 모델의 거부를 대신할 필터가 필요하다면, AI 앱과 에이전트의 가드레일 가이드에서 그 부분을 다룹니다.
사람들이 거부하지 않는 모델을 원하는 이유
주류 채팅 모델은 요청의 범주 전체를 거절하도록 학습되며, 그 학습은 투박합니다. 피싱 이메일이 어떻게 작동하는지 설명하기를 거부하는 모델도 대개는 설명할 수 있습니다. 거부는 행동이지, 능력이 없는 것이 아닙니다. 이 투박함은 정당한 작업에도 영향을 줍니다. 익스플로잇 코드를 분석하는 보안 팀, 폭력 장면을 쓰는 소설가, 약물 과다 복용을 다루는 임상의와 교육자, 정렬(alignment) 자체를 연구하는 연구자, 그리고 Cydonia 24B나 Rocinante X 12B 같은 롤플레이 모델을 로컬에서 실행하는 모든 사람이 그렇습니다. 이 두 모델은 모두 설계상 검열이 없습니다.

수요는 미미하지 않습니다. 2025년 10월 Future Internet에 실린 동료 심사 연구는 수정된 모델 저장소 8,608개를 추적했고, 연구에 쓰인 위험한 프롬프트에 대해 수정되지 않은 모델은 19.2%, 수정된 모델은 80.0%의 비율로 요청에 응했다고 밝혔습니다. 이 모델의 절반 이상은 모델을 로컬에서 실행할 때 쓰는 형식인 GGUF 파일이었습니다. ThreatDown은 Hugging Face에서 abliterated, uncensored, decensored, heretic, unfiltered로 광고된 서로 다른 모델 6,644개를 세었고, 이 모델들은 2026년 7월 4일까지 30일 동안 2,200만 회 넘게 다운로드되었습니다. 이 라벨은 게시자가 직접 붙인 것이며, ThreatDown은 모델이 실제로 무엇을 하는지 테스트하지 않았습니다.
거부를 없애는 세 가지 방법
애블리터레이션: 가중치를 편집한다
2024년 Arditi와 동료들은 최대 72B 파라미터에 이르는 13개 오픈 채팅 모델에서 거부가 모델 내부의 단일 방향을 따라 작동한다는 것을 보여 주었습니다. 그 방향을 제거하면 모델은 유해한 요청을 거부하지 않게 되고, 더하면 무해한 요청까지 거부합니다. 애블리터레이션은 이 제거를 가중치에 굳혀 넣는 방법입니다. 재학습이 필요 없기 때문에 널리 퍼졌습니다. Maxime Labonne의 2024년 해설이 이를 레시피로 만들었고, 2025년 11월에 공개된 오픈소스 도구 Heretic은 설정 탐색을 자동화했습니다. README에 따르면 4B 모델은 RTX 3090에서 30~40분이 걸리고, 커뮤니티는 이 도구로 만든 모델을 이미 수천 개 공개했습니다.
큰 모델은 비용이 더 들지만 그리 많지는 않습니다. Anthropic의 Frontier Red Team은 753B 파라미터 오픈 모델인 GLM-5.3을 애블리터레이션하는 데 경험이 적은 자사 팀이 약 2,200 GPU 시간, 대략 4,400달러를 썼다고 보고했고, 경험 있는 팀이라면 약 600시간(1,200달러)이면 될 것으로 추정했습니다. GLM-5.3의 애블리터레이션 버전은 출시 며칠 만에 개발자들이 공개했습니다. 이것이 한 연구소가 경쟁사의 모델을 분석한 결과라는 점은 염두에 두십시오.

거부 없는 파인튜닝: 행동을 재학습한다
더 오래된 방법은 거부와 훈계를 걸러낸 데이터로 파인튜닝하는 것입니다. 가장 잘 알려진 것은 Eric Hartford의 Dolphin 시리즈입니다. Dolphin 3.0 R1 Mistral 24B는 800,000개의 추론 트레이스로 3에폭 학습되었으며, 카드에는 어조와 지침을 정하는 시스템 프롬프트를 직접 설정하라고 적혀 있습니다. 흔히 Dolphin 3의 것으로 알려진 직설적인 경고는 사실 Dolphin 2.9 카드에 있는 것입니다. 모델이 "비윤리적인 요청을 포함해 어떤 요청에도 매우 순응할 것"이므로, 서비스로 공개하기 전에 자체 정렬 계층을 구현해야 한다는 내용입니다. 이 조언은 이 가이드의 모든 모델에 해당합니다. 파인튜닝은 편집보다 시간이 오래 걸리지만, 행동이 잘려 나가는 대신 학습을 통해 자리 잡습니다.
조종 가능한 모델: 정책은 프롬프트에 둔다
Nous Research의 Hermes 4는 세 번째 길을 택합니다. 시스템 프롬프트가 정하는 어떤 정책이든 따르도록 학습되었기 때문에, 연구소의 규칙이 아니라 사용자의 규칙에 따라 거부하게 할 수 있습니다. 제품군은 Qwen3 기반 14B 모델(Apache 2.0)부터 Llama 3.1 기반 70B와 405B 모델(Llama 라이선스), ByteDance의 Seed-OSS 기반 Hermes 4.3 36B(Apache 2.0)까지 이어집니다. Hermes 4 기술 보고서는 프런티어 모델이 거부하기 쉬운 166개 프롬프트로 이루어진 Nous 자체 세트인 RefusalBench로 이 모델을 평가하며, 채점은 Claude Sonnet 4가 맡습니다. 세 범주는 반대로 채점되어, 거부하는 것이 정답으로 처리됩니다. Hermes 4.3 36B에 대한 Nous의 카드에 따르면 이 모델은 세트의 74.6%에 답했고, Grok 4는 51.3%였습니다. 벤치마크가 공급업체 자체의 것이므로, 수치는 방향을 보여 주는 것으로 받아들이고 증거로 여기지는 마십시오.
단점은 정책의 강도가 직접 작성한 지시문의 강도를 넘지 못한다는 것이고, 대화가 길어질수록 그 지시문은 컨텍스트의 끝에서 점점 멀어진다는 것입니다.
모델이 치르는 대가
모든 방법은 무언가를 손상시키며, 그 손상은 측정할 수 있습니다. 가장 깔끔한 비교는 Heretic이 README의 이전 버전에서 Gemma 3 12B에 대해 공개한 표입니다. 유해한 프롬프트 100개에 대한 거부 횟수와, 무해한 프롬프트에서의 KL 발산, 즉 편집된 모델의 답변이 원래 모델의 답변에서 얼마나 벗어나는지를 셉니다. 값은 낮을수록 좋습니다.
| Gemma 3 12B 빌드 | 100개 중 거부 횟수 | 무해한 프롬프트에서의 편차(KL) |
|---|---|---|
| 원본 | 97 | 0 |
| Labonne 애블리터레이션 v2 | 3 | 1.04 |
| huihui-ai 애블리터레이션 | 3 | 0.45 |
| Heretic | 3 | 0.16 |
세 가지 모두 거부를 똑같이 잘 없애지만, 부수적인 변화는 6배까지 차이가 납니다. Labonne 자신의 해설에 따르면, 그가 애블리터레이션한 모델은 모든 벤치마크에서 점수가 낮아졌고, 추가 DPO 학습으로 손실 대부분을 되찾았지만 GSM8K 수학은 회복되지 않았습니다. Anthropic은 애블리터레이션한 GLM-5.3이 GPQA-Diamond에서는 원본과 같았지만 CyberGym에서는 몇 퍼센트 낮았다고 밝혔습니다. 패턴은 이렇습니다. 지식은 대부분 살아남지만, 모델이 그 지식을 쓰는 방식은 대표 점수 하나로는 가려질 수 있는 방식으로 바뀝니다.
검토 중인 빌드가 있다면 카드에서 두 가지를 확인하십시오. 첫째, 벤치마크 수치가 편집된 가중치로 측정된 것인지, 아니면 베이스 모델의 카드에서 복사한 것인지. 둘째, 거부 횟수와 편차를 아예 공개하는지 여부입니다. 공개하지 않는다면 직접 측정해야 합니다(끝부분의 검사 참고).
도구 호출과 공급망
거부를 없앤다고 구조화된 출력이 나아지지는 않습니다. 애블리터레이션한 모델은 잘해야 베이스 모델의 도구 호출 능력을 유지할 뿐이고, 서빙 템플릿이 이를 망가뜨릴 수도 있습니다. Ollama의 Dolphin 3 패키지는 function calling을 내세웠지만 템플릿이 도구를 지원하지 않았고, 이 이슈는 2026년 10월에 수정 없이 닫혔습니다. 베이스 모델의 평판이 아니라, 실제로 서빙할 빌드, 양자화, 템플릿 그대로를 테스트하십시오.
더 큰 위험은 편집된 모델이 그 밖에 무엇을 담고 있느냐입니다. ProjectDiscovery는 오픈 가중치에 백도어를 얼마나 싸게 심을 수 있는지 보여 주었습니다. 이들은 Qwen2.5-7B-Instruct를 깨끗한 예시 500개와 오염된 예시 125개로 파인튜닝했고, 24 GB GPU 한 장으로 50달러 미만이 들었습니다. 모델은 모든 깨끗한 테스트에서 정상적으로 동작했고, 숨겨진 트리거를 받으면 개발자의 .env 파일을 외부 서버로 전송하는 도구 호출을 보냈습니다. 이 데모는 애블리터레이션이 아니라 파인튜닝이었지만, 이들은 애블리터레이션 모델이 왜 뻔한 운반체가 되는지 분명히 말합니다. 사람들은 바로 검사 없이 실행하려고 그런 모델을 내려받으며, 애블리터레이션된 Qwen3 빌드 하나는 한 달 만에 200만 다운로드를 넘겼습니다.
따라서 수정된 모델은 신뢰할 수 없는 코드로, 즉 출처를 모르는 패키지와 같은 공급망 위험으로 다루십시오. 무엇을 바꿨는지 문서화하는 게시자를 고르십시오. 테스트한 정확한 리비전으로 고정하십시오. 그리고 검사하지 않은 모델에 셸, 자격 증명, 제한 없는 네트워크 접근을 절대 주지 마십시오. 도구는 샌드박스에서 실행하고, 네트워크 접근과 명령 실행을 분리하고, 어느 경계든 넘나드는 것은 기록하십시오. 이런 통제는 코딩 에이전트 보안 가이드와 에이전트의 작업을 누가 승인하는가에 관한 글에서 다룹니다.
거부가 되돌아오는 곳
거부 제거는 영구적이지도 완전하지도 않습니다.
- 양자화는 테스트한 파일을 바꿉니다. 가중치를 4비트로 반올림하면(양자화) 편집한 가중치도 반올림되므로, 전체 정밀도 빌드에 대해 공개된 거부 횟수가 내려받은 GGUF에서는 맞지 않을 수 있습니다. 실제로 실행할 파일로 측정하십시오.
- 짧은 시험으로는 증명되는 것이 거의 없습니다. 빠른 프롬프트 스무 개로는 긴 에이전트 세션 깊숙한 곳에서의 행동을 전혀 알 수 없습니다. 그런 곳에서는 얼버무림이 돌아올 수 있고, 조종 가능한 모델의 정책은 수천 토큰 뒤에 있습니다. 실제로 쓸 길이로 테스트하십시오.
- 병합과 추가 파인튜닝은 이를 다시 바꿉니다. 누군가의 편집을 또 다른 누군가의 파인튜닝 위에 쌓아 만든 빌드는, 아무도 전체로서 측정한 적 없는 행동을 물려받습니다.
모델 제작자들도 반격하고 있습니다. 2025년 논문은 거부하기 전에 길게 설명하도록 모델을 학습시켜 거부를 여러 토큰에 분산시켰습니다. 그 결과 애블리터레이션으로 줄어든 거부는 최대 10%에 그쳤고, 일반 모델에서는 70~80%였지만, 테스트한 것은 작은 모델뿐이었습니다. EleutherAI의 Deep Ignorance 연구는 더 앞 단계로 거슬러 올라갑니다. 사전 학습에서 생물학적 위협 자료를 걸러내자, 최대 3억 토큰 규모의 파인튜닝 공격을 견디는 6.9B 모델이 나왔습니다. 배운 적 없는 것을 편집으로 알게 만들 수는 없지만, 프롬프트로 같은 정보를 건네면 모델은 여전히 그것을 쓸 수 있으므로 저자들은 심층 방어를 주장합니다.
구매자에게 실질적인 요점은, 애블리터레이션한 모델은 베이스 모델이 이미 할 수 있던 일만 할 수 있다는 것입니다. 벤치마크의 주의 사항을 읽을 때처럼, 베이스 모델의 카드에서 학습 데이터에서 무엇이 걸러졌는지 확인하십시오.
GPU 메모리별 후보 목록
필요한 메모리는 가중치에 사용할 컨텍스트만큼의 KV 캐시, 그리고 런타임 오버헤드 1~2기가바이트를 더한 것입니다. 수치는 4비트 빌드 기준이며 저희 리뷰와 모델 카드에서 가져왔습니다. 하드웨어를 사기 전에 정확한 파일을 확인하십시오. GPU 계산기는 컨텍스트 길이까지 더해 줍니다.
| GPU 메모리 | 베이스 또는 빌드 | 방식 | 참고 |
|---|---|---|---|
| 8 GB | Dolphin 3 8B | 파인튜닝 | Ollama에서 4.9 GB, 128K 컨텍스트. Ollama 템플릿은 도구를 지원하지 않음 |
| 16 GB | Rocinante X 12B | 파인튜닝 | 롤플레이와 픽션용. 4비트에서 16 GB에 여유 있게 들어감 |
| 16~24 GB | Gemma 4 26B A4B | 애블리터레이션(커뮤니티 빌드) | 베이스는 4비트에서 14.4 GB, 24 GB 카드에 들어감, Apache 2.0. Gemma 4의 애블리터레이션 및 Heretic GGUF는 Hugging Face에서 가장 많이 다운로드되는 것들에 속함 |
| 24 GB | Qwen 3.8 27B | 애블리터레이션(huihui-ai 빌드) | 베이스는 4비트에서 16.5 GB. 애블리터레이션 빌드는 Apache 2.0이고 18~51번 레이어를 편집하며, 제작자는 프로덕션용이 아닌 개념 증명이라고 밝힘 |
| 24 GB | Cydonia 24B 또는 Dolphin 3.0 R1 Mistral 24B | 파인튜닝 | Cydonia는 24 GB에서 Q5~Q6, 16 GB에서 Q4로 실행됨. Dolphin R1 Ollama 빌드는 13 GB이며 카드에 라이선스가 명시되어 있지 않음 |
| 24 GB | Hermes 4.3 36B | 조종 가능 | Nous 자체 Q4_K_M GGUF는 21.8 GB, Q3_K_M은 17.6 GB. Apache 2.0. 직접 작성한 규칙에 따라 모델이 거부하기를 원할 때의 선택 |
| 데이터 센터 | GLM-5.3 | 애블리터레이션(커뮤니티 빌드) | FP8 가중치로 약 753 GB, 80 GB GPU 8개짜리 노드 하나를 넘음. Anthropic이 연구한 사례 |

라이선스는 빌드마다 다릅니다. 베이스 모델이 Apache 2.0이라고 해서 누군가가 편집한 버전의 조건까지 알 수 있는 것은 아니며, 인기 있는 파인튜닝 모델 중 몇몇은 라이선스를 전혀 명시하지 않습니다. 내려받는 저장소의 라이선스 파일을 읽으십시오.
선택 방법
- 신뢰할 수 있는 도구 호출이 필요한 경우. 조종 가능한 모델이나 문서화가 잘된 파인튜닝 모델을 4비트 이상으로 시작하고, 자신의 도구로 스키마를 테스트하십시오. 애블리터레이션 빌드는 그 테스트를 통과할 때까지 에이전트용으로는 실험적인 것으로 다루십시오.
- 규칙이 없는 것이 아니라, 자신의 규칙을 따르게 하고 싶은 경우. 명시적인 시스템 프롬프트 정책을 적용한 Hermes 4에, 절대 일어나서는 안 되는 일을 막는 별도의 필터를 더합니다.
- 코딩이나 비전 작업을 위해 한 대의 머신에서 최대한의 개방성을 원하는 경우. 24 GB 카드에서 애블리터레이션된 Qwen 3.8 27B를 쓰되, 프로덕션에 관한 제작자의 경고는 문자 그대로 받아들이십시오.
- 작은 카드에서 픽션과 롤플레이를 하는 경우. 바로 그 용도로 만들어진 Rocinante X 12B나 Cydonia 24B입니다.

무엇을 고르든, 두 줄짜리 데모가 아니라 실제로 쓸 컨텍스트 길이에서 세 가지 검사를 하십시오.
- 거부. 실제 작업에서 가져온 프롬프트 20~50개를, 정렬된 모델이 거부했던 경계 사례까지 포함해 실행하고, 거부와 회피성 무응답의 수를 세십시오.
- 도구. 여러 턴에 걸친 도구 호출과 구조화된 출력 작업 50~100개를 실행하고, 스키마 오류와 누락된 도구의 수를 세십시오.
- 편차. 같은 프롬프트를 빌드와 그 베이스 모델에 같은 시드와 greedy 디코딩으로 실행하고, 답변을 나란히 비교하십시오. 카드가 KL 발산을 공개하지 않을 때는 이것이 그 대용이 됩니다.
그런 다음 모델에 더 이상 없는 안전 계층을 제자리에 두십시오. 입력과 출력에는 Qwen3Guard나 Llama Guard 4 같은 분류기를, 도구에는 엄격한 권한을 두고, 로그를 남기십시오. 가드레일 가이드에서 각각을 차례로 설명합니다.

주의할 점: 이런 빌드 대부분이 가진 유일한 설명은 모델 카드의 라벨입니다. "Uncensored"는 편차 수치를 공개한 신중한 편집일 수도 있고, 벤치마크를 복사하고 라이선스도 없는 두 시간짜리 작업일 수도 있으며, 밖에서 보면 테스트하기 전까지는 둘이 똑같아 보입니다.
결론: 거부를 없애는 것은 톱에서 안전 덮개를 떼어 내는 것과 같습니다. 전에는 불가능했던 몇몇 절단이 가능해지지만, 날이 얼마나 날카로운지는 전혀 바뀌지 않습니다. 톱은 날, 즉 베이스 모델을 보고 사고, 안전 덮개는 직접 통제할 수 있는 곳에 다시 다십시오.