Arete-27B의 개요
Arete-27B는 Alibaba의 Qwen3.8-27B를 Nous Research가 파인튜닝한 모델로, 2026년 11월 6일 공개됐습니다. Nous는 기반 모델이 정치적으로 민감한 주제에서 답을 거부하거나 얼버무리고, 중국 공산당의 표현으로 답하는 것을 확인한 뒤 "서구적 가치를 강화하기 위해" 추가 훈련했다고 밝힙니다. 대상은 표현의 자유, 국가 이념, 국가 대 자유시장, 교육, 데이터 프라이버시와 감시, 민주주의, 환경 정책의 일곱 분야입니다.
방법은 지도 파인튜닝뿐이며 강화학습이나 아키텍처 변경은 없습니다. 약 5,280만(52.8 million) 토큰을 두 에폭 동안 학습했고, Thinking Machines의 공개 모델 Inkling의 답변을 교사로 썼습니다. Nous는 직접 만든 803개 프롬프트 평가 세트 Propaganda_Eval과 훈련용 쌍을 가중치와 함께 공개했습니다. 비전 인코더는 고정했으므로 이미지 입력은 Qwen3.8의 것 그대로입니다.
가중치는 기반 모델과 같은 Apache 2.0입니다. Nous는 호스팅 API를 제공하지 않으며, 며칠 만에 커뮤니티 양자화 버전이 나왔고 가장 인기 있는 것은 bartowski의 GGUF 세트입니다.
Arete-27B, 쓸 만한 가치가 있습니까?
Arete의 의미는 더한 것보다 증명한 것에 있습니다. 영어로 된 법령, 뉴스, 연구 보고서에서 뽑은 803개 프롬프트로 이뤄진 Nous 자체 시험에서, 중국 정부의 설명을 그대로 받아들이는 답의 비율은 22%에서 0.9%로 떨어졌고 사실 점수 평균은 5점 만점에 2.32에서 2.98로 올랐습니다. 가장 큰 변화는 표현의 자유 분야로, 정부식 서술 비율이 60%에서 1%로 떨어졌습니다. Nous는 이런 편향이 늦게, 얇게 입혀진 것이어서 적은 지도 데이터로도 바꿀 수 있다고 결론짓습니다.
수치는 조심해서 읽어야 합니다. 벤치마크를 쓰고, 사실을 고르고, Grok 4.7을 심판으로 쓴 것은 모두 Nous이며, 심판은 손으로 채점한 25개 프롬프트 시범으로 조정됐습니다. Arete와 기반 모델은 온도 0으로, 비교 모델은 0.6으로 돌렸고, 0.6에서 Arete는 2.88점입니다. The Decoder는 교사인 Inkling 자체가 일부 중국 모델의 출력으로 훈련됐다고 지적합니다. X에서는 적어도 한 비평가가 Nous가 한 가치 체계를 다른 것으로 바꿨을 뿐이라고 주장하는데, 모델 카드도 이를 부정하지 않고 사용자에게 관점 선택권을 주는 작업으로 설명합니다. 이 방법은 어느 방향으로든 통합니다.
일반 능력은 그대로로 보입니다. Nous 내부의 Hermes Bench에서 65.60%로 기반 모델의 65.77%와 차이가 거의 없어 Nous는 이를 잡음으로 봅니다. Terminal-Bench 2.1에서는 70% 대 67%를 보고했지만 이 향상을 자기 성과로 내세우지 않습니다. 독립 리더보드 점수는 없습니다.
결론: 이미 Qwen3.8-27B를 좋아하지만 중국, 감시, 민주주의에 관한 질문에 공식 노선 없이 답하게 하고 싶은 팀에게 Arete는 크기, 라이선스, 도구가 같은 그대로 갈아 끼울 수 있는 모델입니다. 그 밖의 사람에게는 같은 모델이고, 공개된 평가 세트가 더 오래 남을 기여입니다.
제 역할을 하는 곳
유럽 출판사 보도국의 데이터팀
중국, 홍콩, 대만 관련 보도를 공식 표현을 되풀이하지 않고 요약하는 로컬 비서 운영
기존 Qwen3.8-27B 환경에 Arete를 갈아 끼웁니다. Nous 평가에서 표현의 자유 분야의 정부식 서술은 60%에서 1%로 줄었습니다. 그래도 사실 점수 평균이 5점 만점에 2.98이니 사실 확인은 계속해야 합니다.
추가 훈련이 가치관을 어떻게 바꾸는지 연구하는 AI 안전 연구자
좁은 파인튜닝이 모델의 정치적 서술을 얼마나 움직이는지 측정
Nous는 803개 프롬프트의 Propaganda_Eval을 심판 프롬프트, 스크립트와 함께 공개했고 훈련용 쌍도 내놓았습니다. 다른 심판이나 같은 온도로 다시 돌려 22%에서 0.9%라는 주장을 검증할 수 있습니다.
중국에서 훈련된 모델을 경계하는 미국 공공기관의 조달 책임자
성능 좋은 공개 모델을 내부 하드웨어에 배치
Arete는 Qwen3.8-27B의 가중치 구조와 Apache 2.0 라이선스를 그대로 유지하므로, 약 55 GB의 BF16 파일이 기반 모델이 돌던 곳에서 그대로 돕니다. 기반 모델의 출처는 바뀌지 않으니 일부 정책은 여전히 이를 고려할 것입니다.
도입 전 확인할 점
- 설정
- Hugging Face에서 18개 파일로 된 BF16 체크포인트를 내려받아 Qwen3.8-27B처럼 서빙합니다. 커뮤니티 GGUF와 MLX 버전은 llama.cpp와 Apple silicon에서 돕니다.
- 연동
- Qwen3.8-27B의 채팅 템플릿을 쓰므로 vLLM, SGLang, llama.cpp, Transformers가 그대로 불러옵니다. Nous는 사고 모드를 끄고 평가했으며, 사고 모드를 켠 3.07점은 다섯 번 중 두 번의 실행 결과입니다.
- 데이터와 개인정보
- 직접 호스팅하므로 프롬프트가 내 컴퓨터에 남습니다. Apache 2.0은 상업적 이용과 수정을 허용하며, 평가 세트는 MIT로 공개됐습니다.
- 대규모 사용 시 비용
- 가중치는 무료입니다. 매개변수 약 274억 개, BF16으로 약 55 GB라서 전체 정밀도에는 80 GB GPU가 필요합니다. 커뮤니티의 4비트 GGUF와 NVFP4 버전이면 소비자용 카드 한 장 범위로 줄어듭니다.
- 제한
- 파인튜닝은 64K 컨텍스트로 했으며, 기반 모델의 262K보다 짧습니다. Nous는 기반 모델 관점의 영향을 모두 없앴다고 주장하지 않으며, 훈련 중 멀티 토큰 예측 헤드는 꺼져 있었습니다.
좋은 점
- Nous 평가에서 정부식 서술 답변이 22%에서 0.9%로 감소
- Hermes Bench에서 측정된 능력 저하 없음
- 평가 세트와 훈련용 쌍 공개
- Apache 2.0, Qwen3.8-27B와 같은 크기와 도구
아쉬운 점
- 벤치마크 제작, 심판 선정, 모든 시험 실행을 Nous가 직접 함
- Arete와 비교 모델의 디코딩 설정이 다름
- 사실 점수 2.98(5점 만점)은 교사 모델의 3.96에 못 미침
- 호스팅 API도 독립 평가 점수도 없음
추천 대상
Qwen3.8-27B를 로컬에서 돌리며 정치적으로 민감한 질문에 중국 정부식 서술 없이 답하게 하려는 팀.
Arete-27B 대안
Arete-27B: 자주 묻는 질문
- Arete-27B, 쓸 만한 가치가 있습니까?
- Arete-27B는 중국 모델의 정치적 서술이 소박한 파인튜닝 한 번으로 벗겨진다는 것을 보여 주지만, 세계관이 다른 Qwen3.8-27B일 뿐 더 나은 Qwen은 아닙니다. 평점은 5점 만점에 3.7점입니다.
- Arete-27B의 가격은 얼마입니까?
- Apache 2.0 가중치 무료. 자체 API는 없으며 비용은 직접 마련한 하드웨어입니다.
- Arete-27B의 단점은 무엇입니까?
- 벤치마크 제작, 심판 선정, 모든 시험 실행을 Nous가 직접 함; Arete와 비교 모델의 디코딩 설정이 다름; 사실 점수 2.98(5점 만점)은 교사 모델의 3.96에 못 미침; 호스팅 API도 독립 평가 점수도 없음.
- Arete-27B에 적합한 사람은 누구입니까?
- Qwen3.8-27B를 로컬에서 돌리며 정치적으로 민감한 질문에 중국 정부식 서술 없이 답하게 하려는 팀.
- 팀이나 프로덕션 환경에서 Arete-27B의 비용은 얼마입니까?
- 가중치는 무료입니다. 매개변수 약 274억 개, BF16으로 약 55 GB라서 전체 정밀도에는 80 GB GPU가 필요합니다. 커뮤니티의 4비트 GGUF와 NVFP4 버전이면 소비자용 카드 한 장 범위로 줄어듭니다.
- Arete-27B에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하므로 프롬프트가 내 컴퓨터에 남습니다. Apache 2.0은 상업적 이용과 수정을 허용하며, 평가 세트는 MIT로 공개됐습니다.
- Arete-27B의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3.8-27B, Inkling, Gemma 4 및 Mistral Large 4입니다.
답변 확인일: 2026년 11월 11일.