Qwen3.5-397B-A17B의 개요
Qwen3.5-397B-A17B는 Alibaba Qwen3.5 시리즈의 첫 오픈 가중치 모델로, 2026년 2월 16일 공개되었습니다. Alibaba는 이후 4월에 Qwen3.6 오픈 모델을, 2026년 8월에 Qwen3.8을 내놓았습니다. 파라미터 3,970억(397 billion) 개 중 토큰마다 170억(17 billion) 개를 쓰는 전문가 혼합 모델입니다. 빠른 선형 어텐션 설계(Gated DeltaNet)와 표준 어텐션을 섞었으며, Alibaba에 따르면 디코딩 속도가 Qwen3-Max 대비 32K 컨텍스트에서 8.6배, 256K에서 19배입니다.
텍스트, 이미지, 영상을 읽고 텍스트를 씁니다. 기본 컨텍스트는 262,144토큰이며, 표준적인 컨텍스트 확장 방법인 YaRN으로 약 1M까지 늘릴 수 있습니다. 201개 언어와 방언을 다루고, 기본적으로 답하기 전에 생각합니다. 호스팅 버전인 Alibaba Cloud Model Studio의 Qwen3.5-Plus는 기본 1M 토큰 컨텍스트와 내장 도구를 더합니다.
가중치는 Apache 2.0입니다. 0.8B에서 122B까지의 더 작은 Qwen3.5 모델은 2026년 2월 말과 3월 초에 뒤따라 나왔습니다.
Qwen3.5-397B-A17B, 쓸 만한 가치가 있습니까?
Qwen3.5-397B-A17B는 2월에는 강력한 오픈 모델이었고 10월에는 비싼 모델입니다. Artificial Analysis는 Intelligence Index에서 18점을 주었는데, 이는 1,500억(150 billion) 파라미터 이상 오픈 모델의 중앙값 19보다 조금 낮습니다. 또 100만 토큰당 입력 $0.60, 출력 $3.60인 이 모델을 같은 등급에서 '특히 비싸다'고 평가합니다. Alibaba 자체 카드는 자체 보고 수치이지만 여전히 좋아 보입니다. SWE-bench Verified 76.4, GPQA 88.4, MMMU 이미지 테스트 85.0, OSWorld-Verified 62.2입니다.
Alibaba는 이미 후속 모델을 냈습니다. 4월에 Qwen3.6-35B-A3B와 Qwen3.6-27B가 나왔고, 8월에는 Qwen3.8이 2.4조(2.4 trillion) 파라미터 플래그십과 27B 모델을 가져왔습니다. 플래그십은 별도의 Qwen3.8-Max 라이선스로 배포되고 27B는 Apache 2.0이므로, 397B는 순수한 Apache 조건을 가진 가장 큰 Qwen으로 남습니다. 그것이 이 모델의 가장 좁지만 가장 오래갈 근거입니다.
호스팅 계산은 불리합니다. 호스팅 버전인 Qwen3.5-Plus는 OpenRouter에서 입력 $0.30, 출력 $1.80에 1M 토큰 컨텍스트로 올라 있습니다. 반면 오픈 가중치를 제공하는 OpenRouter 호스트 10곳 중 가장 싼 곳인 Alibaba 자체 엔드포인트는 $0.39와 $2.34에 262K입니다. 자체 호스팅은 가중치를 반드시 자기 건물 안에 둬야 할 때만 이득입니다. FP8 체크포인트는 약 406 GB이고 Alibaba의 서빙 예제는 GPU 8장을 전제로 합니다. Unsloth의 4비트 양자화는 214 GB로, 256 GB Mac이나 시스템 RAM 256 GB를 갖춘 24 GB GPU 1장에 들어가며 초당 약 25토큰이 나옵니다.
팀이 당황하는 동작이 두 가지 있습니다. thinking이 기본으로 켜져 있고 /think와 /nothink 전환은 지원되지 않습니다. 카드는 추론을 온전히 유지하려면 컨텍스트를 최소 128K로 두라고 하는데, 작은 서버에서는 메모리 제약이 됩니다. 262K를 넘으면 오픈소스 프레임워크는 정적 YaRN을 쓰며, 카드는 이것이 짧은 프롬프트의 품질을 떨어뜨릴 수 있다고 경고합니다. 따라서 긴 컨텍스트 작업은 호스팅 Plus가 맞습니다. 유리한 점도 있습니다. Artificial Analysis가 지수 전체에서 집계한 출력 토큰은 중앙값 140M에 비해 95M이었습니다. Alibaba API에서 초당 55.8토큰이라는 속도를 감안해도 추론 모델치 고는 간결합니다.
제 역할을 하는 곳
H100 8장 노드를 가진 유럽 은행의 ML 플랫폼 팀
법무팀이 이미 승인한 라이선스로 멀티모달 모델을 온프레미스에서 실행
406 GB FP8 체크포인트를 vLLM으로 tensor-parallel 8, qwen3 추론 파서, qwen3_coder 도구 파서와 함께 서빙합니다. Apache 2.0에는 추적할 기준선이 없습니다. 비용은 노드이며, 카드는 컨텍스트를 최소 128K로 유지하라고 권합니다.
256 GB Mac Studio를 가진 1인 개발자
비공개 코딩과 문서 작업을 위해 대형 오픈 모델을 로컬에서 실행
Unsloth의 UD-Q4_K_XL 양자화는 약 214 GB로 256 GB M3 Ultra에 올라갑니다. Unsloth는 전체 가중치 대비 1점 미만으로 떨어졌다는 서드파티 테스트를 인용합니다. 팀 서버가 아니라 1인 사용 속도를 예상해야 합니다.
매달 티켓 1M건에 답하는 SaaS 기업의 지원 운영 관리자
플래그십 가격을 내지 않고 다국어 답변 초안 작성
답변당 입력 1,500토큰, 출력 500토큰이면 OpenRouter의 Alibaba 엔드포인트($0.39/$2.34)는 월 약 $1,760, 호스팅 Qwen3.5-Plus($0.30/$1.80)는 약 $1,350입니다. 추론 토큰은 출력으로 과금되므로 일상적인 답변에서는 thinking을 끄십시오.
도입 전 확인할 점
- 설정
- Hugging Face나 ModelScope에서 내려받고(BF16은 약 807 GB, FP8 체크포인트는 406 GB) main 브랜치의 vLLM이나 SGLang으로 서빙합니다. 카드의 예제는 GPU 8장을 씁니다. 또는 OpenRouter에서 qwen/qwen3.5-397b-a17b를 호출합니다.
- 연동
- Alibaba Cloud Model Studio와 OpenRouter 호스트 10곳의 OpenAI 방식 채팅 API. qwen3_coder 파서를 통한 도구 호출. 로컬 실행용 KTransformers, llama.cpp, MLX, Transformers.
- 데이터와 개인정보
- Apache 2.0은 매출이나 사용자 제한 없이 상업적 이용, 파인튜닝, 재배포를 허용합니다. 자체 호스팅하면 프롬프트가 내부에 머뭅니다. OpenRouter에서는 EU 역내 라우팅으로 이용할 수 없고, 호스트마다 보관 정책이 다릅니다.
- 대규모 사용 시 비용
- OpenRouter 호스트는 1M 토큰당 입력 $0.39에서 $0.75, 출력 $2.34에서 $4.50을 받습니다. 호스팅 Qwen3.5-Plus는 $0.30/$1.80입니다. 자체 호스팅에는 FP8 약 406 GB(80 GB GPU 8장 서버), 4비트 214 GB, 3비트 180 GB가 필요합니다.
- 제한
- 기본 컨텍스트 262,144토큰, YaRN factor 4로 약 1M. 출력은 기본 최대 32,768토큰이고 어려운 수학과 코드에서는 81,920토큰. 일부 호스트는 컨텍스트를 128K나 131K로 줄이며, Artificial Analysis 기준 Alibaba API 속도는 초당 55.8토큰입니다.
좋은 점
- 매출이나 사용자 수 제한이 없는 Apache 2.0
- 201개 언어에서 텍스트, 이미지, 영상 입력
- 추론 모델치고 간결함: Artificial Analysis 지수에서 출력 토큰 95M, 중앙값은 140M
- 4비트 양자화가 메모리 214 GB에 들어감
아쉬운 점
- Artificial Analysis Intelligence Index 18점으로 같은 크기 중앙값보다 낮음
- 호스팅 Qwen3.5-Plus가 OpenRouter의 모든 오픈 가중치 호스트보다 쌈
- Qwen3.6과 Qwen3.8로 대체됨
- 262K를 넘으면 정적 YaRN에 의존하며, 짧은 텍스트 품질이 떨어질 수 있음
추천 대상
가장 큰 Apache 2.0 Qwen을 자체 하드웨어에서 돌려야 하고, 이를 실행할 멀티 GPU 서버나 256 GB 머신을 이미 갖춘 팀.
Qwen3.5-397B-A17B 대안
Qwen3.5-397B-A17B: 자주 묻는 질문
- Qwen3.5-397B-A17B, 쓸 만한 가치가 있습니까?
- 여전히 쓸 만한 Apache 2.0 주력 모델입니다. 하지만 Alibaba는 이제 같은 모델을 어떤 서드파티가 오픈 가중치 실행에 받는 요금보다도 싸게 호스팅해 팝니다. 평점은 5점 만점에 3.6점입니다.
- Qwen3.5-397B-A17B의 가격은 얼마입니까?
- 가중치는 Apache 2.0으로 무료입니다. Alibaba Cloud의 Qwen3.5-Plus와 서드파티 호스팅은 별도 과금입니다.
- Qwen3.5-397B-A17B의 단점은 무엇입니까?
- Artificial Analysis Intelligence Index 18점으로 같은 크기 중앙값보다 낮음; 호스팅 Qwen3.5-Plus가 OpenRouter의 모든 오픈 가중치 호스트보다 쌈; Qwen3.6과 Qwen3.8로 대체됨; 262K를 넘으면 정적 YaRN에 의존하며, 짧은 텍스트 품질이 떨어질 수 있음.
- Qwen3.5-397B-A17B에 적합한 사람은 누구입니까?
- 가장 큰 Apache 2.0 Qwen을 자체 하드웨어에서 돌려야 하고, 이를 실행할 멀티 GPU 서버나 256 GB 머신을 이미 갖춘 팀.
- 팀이나 프로덕션 환경에서 Qwen3.5-397B-A17B의 비용은 얼마입니까?
- OpenRouter 호스트는 1M 토큰당 입력 $0.39에서 $0.75, 출력 $2.34에서 $4.50을 받습니다. 호스팅 Qwen3.5-Plus는 $0.30/$1.80입니다. 자체 호스팅에는 FP8 약 406 GB(80 GB GPU 8장 서버), 4비트 214 GB, 3비트 180 GB가 필요합니다.
- Qwen3.5-397B-A17B에 회사 데이터를 맡겨도 안전합니까?
- Apache 2.0은 매출이나 사용자 제한 없이 상업적 이용, 파인튜닝, 재배포를 허용합니다. 자체 호스팅하면 프롬프트가 내부에 머뭅니다. OpenRouter에서는 EU 역내 라우팅으로 이용할 수 없고, 호스트마다 보관 정책이 다릅 니다.
- Qwen3.5-397B-A17B의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 GLM-5.3-Flash, Qwen3.8-Max, DeepSeek-V4.1-Flash 및 Mistral Small 4입니다.
답변 확인일: 2026년 10월 22일.