2026년 추천 오픈소스 LLM
저희가 리뷰한 오픈소스 LLM 58개 중 현재 추천은 MiMo-V2.6-Pro, Qwen3.8-27B 및 Gemma 4입니다. 각 제품을 저희 평점순으로 정렬하고 가격, 평가 요약, 추천 대상을 적었습니다.
작성: Andrew Miller · 2026년 11월 2일 업데이트 · 리뷰 방법
순위 산정 방법: 각 제품의 가격, 문서, 정책, 그리고 독립 벤치마크가 있으면 그것까지 바탕으로 한 리뷰의 5점 만점 평점순으로 정렬합니다. 모든 정보는 리뷰에 적힌 날짜에 확인했습니다. 제휴 수수료는 받지 않습니다.호스팅 API 제공이 끝난 모델도 오픈 웨이트를 쓸 수 있으므로 목록에 남기고 그 사실을 표시합니다.
- 1
라이선스와 데이터: 가중치는 MIT입니다. Xiaomi의 MiMo 개인정보 처리방침은 데이터를 싱가포르에 저장하고 보관 기간이 지나면 삭제하거나 익명화한다고 밝힙니다. Desktop 앱은 옵트아웃하지 않으면 입력으로 학습합니다. 서드파티 게이트웨이들은 Xiaomi API가 트래픽으로 학습하지 않는다고 전하는데, 이는 Xiaomi의 API 약관으로 확인해야 합니다.
운영: 100만 토큰당 $0.435/$0.87이고, 캐시 할인 99%와 절반 가격 배치가 있습니다. 입력 500K, 출력 30K 토큰짜리 에이전트 과제 1,000건은 캐시 없이 약 $244이고, Flash로는 약 $78입니다.
가격: MIT 라이선스 오픈 웨이트. Xiaomi API: Pro 1M 토큰당 입력 $0.435 / 출력 $0.87, 캐시 입력 $0.004. Flash $0.14 / $0.28. Pro UltraSpeed $4.35 / $8.70. Batch API는 절반 가격.
MiMo-V2.6-Pro 리뷰 읽기4.5/5 - 2
라이선스와 데이터: Apache 2.0: 매출 상한이나 허용 사용 부속서 없이 상업적 이용 가능. Qwen Cloud 목록에는 보관이나 학습 관련 조건이 공개되어 있지 않고, 예시 엔드포인트는 싱가포르(ap-southeast-1)에 있습니다.
운영: 자체 호스팅: KV 캐시를 빼고 가중치만 4비트 16.5 GB, 8비트 29 GB, FP8 31 GB, BF16 약 56 GB. 호스팅: Qwen Cloud는 1M 토큰당 $0.50/$3.00이고, OpenRouter 제공자는 약 $0.04/$1.25에서 $0.45/$3.20까지입니다.
가격: 가중치는 Apache 2.0으로 무료입니다. Qwen Cloud: 1M 토큰당 입력 $0.50 / 출력 $3.00(캐시 $0.10). OpenRouter의 서드파티 호스트는 약 $0.04 / $1.25부터입니다.
Qwen3.8-27B 리뷰 읽기4.5/5 - 3
라이선스와 데이터: 직접 호스팅하므로 데이터는 실행하는 곳에 남습니다. Apache 2.0은 매출 상한이나 허용 사용 부칙 없이 상업적 사용과 파인튜닝을 허용합니다.
운영: 가중치는 무료입니다. 31B는 BF16으로 약 62 GB(80 GB 카드 한 장), 4비트로 17.7 GB가 필요합니다. 4비트 기준 26B A4B는 14.4 GB, 12B는 7.0 GB, E4B는 5.2 GB입니다. OpenRouter는 1M 토큰당 31B를 $0.20/$0.40, 26B A4B를 $0.08/$0.26에 올려 두었습니다.
가격: 가중치는 Apache 2.0으로 무료입니다. Google Cloud와 서드파티에서 호스팅됩니다. OpenRouter는 1M 토큰당 31B를 $0.20/$0.40, 26B A4B를 약 $0.08/$0.26에 올려 두었습니다.
Gemma 4 리뷰 읽기4.4/5 - 4
라이선스와 데이터: Z.ai API는 싱가포르에서 운영됩니다. 데이터 처리 약관에 따르면 고객을 대신해 고객 데이터를 처리하고, API 입력과 출력은 실시간으로 처리되며 저장하지 않습니다. API 프롬프트로 학습하는지에 대한 명시적인 설명은 공개되어 있지 않습니다. 자체 호스팅하면 데이터가 사내에 남습니다.
운영: Z.ai는 1M 토큰당 $1.40/$4.40, 캐시 입력 $0.26을 제시하며 캐시 저장은 한시적으로 무료입니다. Artificial Analysis는 지수 과제당 $2.01로, GPT-6.1 Sol의 $0.72와 비교됩니다. 자체 호스팅에는 FP8 가중치 약 753 GB와 캐시 메모리가 필요합니다.
가격: 수정된 MIT 라이선스의 오픈 가중치. Z.ai API: 1M 토큰당 입력 $1.40 / 캐시 $0.26 / 출력 $4.40. GLM-5.3-Flash $0.15 / $0.50.
GLM-5.3 리뷰 읽기4.4/5 - 5
라이선스와 데이터: 자체 호스팅이므로 이미지와 영상은 자기 하드웨어에 머뭅니다. SAM License는 상업적 이용을 허용하지만 군사, ITAR 관련 및 기타 무역 통제 대상 용도와 리버스 엔지니어링을 금지합니다. 승인 절차에서는 Meta의 개인정보 처리방침에 따라 이름, 생년월일, 국가, 소속을 수집합니다.
운영: 848M 파라미터이므로 데이터센터 GPU 한 장으로 서비스할 수 있습니다. Meta는 H200에서 객체 100개 이상인 이미지 한 장당 30 ms, SAM 3.1은 객체 수가 중간 정도일 때 H100 한 장에서 초당 32프레임이라고 밝혔습니다. Roboflow 호스팅 가격은 자체 요금제를 따릅니다.
가격: Hugging Face에서 승인제 가입을 거친 뒤 SAM License에 따라 무료입니다. 상업적 이용은 허용되지만 군사, ITAR, 리버스 엔지니어링 관련 제한이 있습니다. Roboflow를 통한 호스팅 사용은 Roboflow 요금제로 과금됩니다.
SAM 3 (Segment Anything Model 3) 리뷰 읽기4.4/5 - 6
라이선스와 데이터: 오픈 가중치는 상업적 이용이나 매출 제한이 없는 MIT 라이선스입니다. DeepSeek 개인정보 처리방침(2026년 2월)은 데이터를 중국에 저장하고, 사용자 입력의 용도에 모델 학습을 포함하며, 옵트아웃은 privacy@deepseek.com으로 이메일을 보내는 방법뿐이라고 밝힙니다.
운영: API에서 캐시 적중률 70%로 월 입력 1B 토큰과 출력 100M 토큰이면 혼잡 시간 요금으로 약 $820, 비혼잡 시간으로 $410입니다. 셀프 호스팅은 가중치만으로 약 865 GB가 필요합니다. 우리 계산으로는 최소 GPU 8장짜리 H200 서버(HBM 1.1 TB)가 필요하고, 1M 토큰 컨텍스트를 온전히 쓰려면 더 필요합니다.
가격: 가중치는 MIT 라이선스로 무료입니다. DeepSeek API는 1M 토큰당 비혼잡 시간 입력 $0.66 / 출력 $1.98, 혼잡 시간 $1.32 / $3.96입니다. 캐시 적중은 $0.022부터입니다.
DeepSeek-V4-Pro 리뷰 읽기4.3/5 - 7
라이선스와 데이터: Z.ai API 데이터 약관에 따르면 프롬프트와 출력은 실시간으로 처리되고 저장되지 않으며, 고객 데이터는 일반적으로 싱가포르에서 처리됩니다. 약관은 학습 사용 여부를 어느 쪽으로도 언급하지 않고, SOC 2나 ISO 인증도 공개되어 있지 않습니다. Z.ai는 중국산 가속기로 모델을 서빙합니다.
운영: Z.ai에서 월 입력 2B 토큰(80% 캐시)과 출력 200M 토큰은 약 $208이고, GLM-5.3이라면 약 $1,856입니다. 자체 호스팅에는 FP8 가중치 약 330 GB와 KV 캐시가 필요하며, 이는 80 GB GPU 네 장으로는 부족하므로 GPU 여덟 장 노드를 계획해야 합니다.
가격: MIT 오픈 가중치. Z.ai API: 1M 토큰당 입력 $0.15 / 출력 $0.50(캐시 $0.03). FlashX $0.37 / $1.25.
GLM-5.3-Flash 리뷰 읽기4.3/5 - 8
라이선스와 데이터: Moonshot의 개인정보 처리방침은 사용자 콘텐츠 학습을 허용하며 API 예외는 설명하지 않습니다. 계정이 활성 상태인 동안 데이터를 보관하고 싱가포르에 저장합니다. SOC 2나 ISO 인증은 언급되지 않습니다. 라이선스는 내부 사용을 매출 조항과 표시 조항에서 면제합니다.
운영: 100만 토큰당 $3/$15, 캐시 $0.30이며, 5분 또는 1시간 캐시 쓰기에는 추가 요금이 붙습니다. 입력 500K, 출력 30K 토큰 에이전트 과제 1,000건은 캐시 없이 약 $1,950입니다. Fireworks는 한 엔드포인트를 $2.10/$10.50에 올려 두었습니다.
가격: 수정된 MIT 라이선스의 오픈 웨이트입니다. Kimi API: 1M 토큰당 입력 $3 / 출력 $15, 캐시된 입력 $0.30.
Kimi K3 리뷰 읽기4.3/5 - 9
라이선스와 데이터: 가중치는 사용 제한 없는 MIT입니다. DeepSeek 서비스의 개인정보 처리방침(2026년 2월 10일 업데이트)에 따르면 데이터는 중국에 저장되고, 계정이 있는 동안 보관되며, 모델 학습에 쓰일 수 있고, 요청 시 옵트아웃할 수 있습니다. API 전용 보관 약관은 공개돼 있지 않습니다.
운영: 월 입력 100억(10 billion), 출력 10억(1 billion) 토큰은 DeepSeek에서 비혼잡 시간 약 $2,100, 혼잡 시간 약 $4,200입니다. 캐시된 입력은 비혼잡 시간 100만 개당 $0.003입니다. Search와 Fetch는 각각 성공 호출 1,000건당 $0.75가 더해집니다. 그래서 작업당 20번 검색하는 에이전트가 10,000건을 처리하면 검색에 월 $150를 냅니다. 하네스를 통한 호출은 2026년 10월 31일 16:00 UTC까지 무료입니다. 셀프 호스팅은 가중치만으로 765 GB 넘는 GPU 메모리가 필요하며, DeepInfer 배포 노트는 DeepSeek의 최소 효율 단위를 prefill GPU 64장과 decode GPU 64장으로 제시합니다.
가격: 가중치는 MIT 라이선스로 무료입니다. DeepSeek API는 1M 토큰당 비혼잡 시간 입력 $0.15 / 출력 $0.60, 평일 혼잡 시간 $0.30 / $1.20입니다. 캐시 적중은 $0.003~$0.006입니다.
DeepSeek-V4.1-Flash 리뷰 읽기4.2/5 - 10
라이선스와 데이터: 가중치는 추가 조건 없는 Apache 2.0입니다. Tencent Cloud 중국 사이트 약관 은 입력을 자사 모델 개선에 쓰지 않는다고 밝힙니다. 보존 기간은 공개되지 않았습니다. TokenHub에 있는 다른 연구소의 모델은 각자의 약관을 따릅니다.
운영: TokenHub에서 100만 토큰당 $0.834/$2.501입니다. 입력 500K, 출력 30K 토큰짜리 에이전트 작업 1,000건은 캐시 없이 약 $492입니다. FP8 셀프호스팅에는 B300급 GPU 8장이 필요합니다.
가격: Apache 2.0 오픈 웨이트입니다. Tencent Cloud TokenHub: 1M 토큰당 입력 ¥6 / 출력 ¥18, 해외에서는 $0.834 / $2.501, 캐시된 입력 $0.042. OpenRouter는 약 $0.75 / $2.25부터. Hy3: $0.13 / $0.53.
Hy4 preview 리뷰 읽기4.2/5 - 11
라이선스와 데이터: Qwen Community License 1.0: 상업적 이용 허용. 월 사용자 1억(100 million) 명 또는 월 매출 $20 million(2,000만 달러)을 넘으면 모델 이름 표시 필요. 서비스형 모델과 AI 코딩 또는 오피스 어시스턴트 사업은 규모와 무관하게 별도 라이선스. Qwen Cloud의 데이터 보안 문서는 암호화와 역내 저장을 다루지만 보관 기간이나 학습 정책은 공개하지 않습니다.
운영: 호스팅: 100만 토큰당 입력 $0.15, 출력 $0.47, 캐시 적중 $0.016. Batch도 제공되지만 할인율은 공개되지 않았습니다. 자체 호스팅: BF16 가중치 약 360 GB 또는 FP8 180 GB이므로, KV 캐시 이전에 멀티 GPU H100이나 H200 서버가 필요합니다.
가격: 오픈 가중치는 Qwen Community License 1.0을 따릅니다(호스팅 및 AI 어시스턴트 사업에는 별도 라이선스). Qwen3.8-Flash API: 1M 토큰당 입력 $0.15 / 출력 $0.47, 캐시 적중 $0.016.
Qwen3.8-Flash-Next 리뷰 읽기4.2/5 - 12
라이선스와 데이터: 라이선스는 상업적 이용을 허용합니다. 월 사용자 1억(100 million) 명 또는 월 매출 $20 million(2,000만 달러)을 넘으면 모델 이름을 표시해야 합니다. 연 매출 $50 million(5,000만 달러)을 넘는 서비스형 모델이나 AI 업무 어시스턴트 사업은 별도 라이선스가 필요하며, 내부 사용은 예외입니다. Qwen Cloud의 데이터 보안 문서는 암호화와 역내 저장을 다루지만 보관 기간이나 학습 정책은 공개하지 않습니다.
운영: 바쁜 사내 어시스턴트 수준인 하루 입력 1,000만(10 million), 출력 200만(2 million) 토큰은 정가로 하루 약 $32, 월 약 $960입니다. $0.17의 명시적 캐시 읽기를 쓰면 반복 컨텍스트 비용이 90% 넘게 줄어듭니다.
가격: 오픈 가중치는 Qwen3.8-Max 라이선스를 따릅니다. Qwen Cloud API: 1M 토큰당 입력 $2 / 출력 $6, 캐시 읽기 $0.17(명시적) 또는 $0.25(암묵적).
Qwen3.8-Max 리뷰 읽기4.2/5 - 13
라이선스와 데이터: 가중치는 StepFun Model License 1.0을 따릅니다. 사용자 100M명 또는 월 매출 $20M 초과 시 표시 의무, 연 $20M 초과 기기 제조사와 MaaS 사업자는 상업 라이선스 필요, 내부 사용은 예외입니다. StepFun API 약관은 Startup 및 얼리 액세스 프로그램 트래픽으로 학습하는 것을 허용하며, 그 밖의 유료 트래픽에 대한 조건은 명시돼 있지 않습니다.
운영: 토큰 100만 개당 $1.00/$2.70, 캐시된 입력 90% 할인입니다. 입력 500K, 출력 30K 토큰인 에이전트 작업 1,000건은 캐시 없이 약 $581입니다. 자체 호스팅 FP8에는 B300 네 장 또는 H200 여덟 장, BF16에는 B300 여덟 장 또는 H200 열여섯 장이 필요합니다.
가격: StepFun Model License 1.0의 오픈 가중치. StepFun API: 토큰 1M개당 입력 $1.00 / 출력 $2.70, 캐시된 입력 90% 할인. OpenRouter와 DeepInfra도 같은 가격.
Step 5 Preview 리뷰 읽기4.2/5 - 14
라이선스와 데이터: 직접 호스팅하면 Apache 2.0으로 사용 제한이 없습니다. Mistral API 무료 등급의 입력과 출력은 옵트아웃하지 않으면 학습에 쓰일 수 있으며, 종량제 사용자는 옵트아웃할 수 있습니다.
운영: Mistral API에서 100만 토큰당 $0.10~$0.20이며 batch는 절반 가격입니다. 직접 호스팅 시 FP8 14B는 24 GB GPU 한 대가 필요하고, 3B는 휴대폰과 Jetson 보드에서 실행됩니다.
가격: Apache 2.0의 오픈 웨이트. Mistral API: 1M 토큰당 14B $0.20, 8B $0.15, 3B $0.10이며 입력과 출력이 같습니다. batch는 절반 가격입니다.
Ministral 3 (3B, 8B and 14B) 리뷰 읽기4.1/5 - 15
라이선스와 데이터: Apache 2.0은 매출 상한 없이 상업적 이용을 허용합니다. 로컬에서 실행하면 아무것도 기기 밖으로 나가지 않으며, OpenRouter에서는 호스팅 제공자의 약관이 적용됩니다. Meta의 학습 데이터에는 자사 제품과 서비스의 정보가 포함됩니다.
운영: 로컬: 17GB 빌드에는 24GB 카드 한 장, 손실이 거의 없는 빌드에는 32GB, 전체 정밀도에는 64GB가 필요합니다. 호스팅: DeepInfra에서 1M 토큰당 $0.30/$1.20, Together에서 $0.35/$1.50이므로 월 입력 300M, 출력 60M이면 약 $162입니다.
가격: Apache 2.0의 무료 가중치이며 Meta API는 없습니다. OpenRouter의 호스팅은 입력 1M 토큰당 $0.30, 출력 1M 토큰당 $1.20부터입니다(DeepInfra).
Muse Glimmer 리뷰 읽기4.1/5 - 16
라이선스와 데이터: OpenMDW-1.1은 상업적 사용을 허용합니다. 자체 호스팅하면 데이터가 사내에 남고, 호스팅 업체는 각자 보존 조건을 정합니다. OpenRouter는 이 모델에 EU 역내 라우팅을 제공하지 않습니다.
운영: OpenRouter의 $0.15/$0.50 기준으로 입력 8K, 출력 1K 토큰짜리 에이전트 턴을 월 1M 회 처리하면 약 $1,700이며, 장황함으로 출력이 늘기 전 금액입니다. BF16 자체 호스팅은 레플리카당 H100 4장이 필요하고, NVFP4는 더 작은 Blackwell 구성에 들어갑니다.
가격: OpenMDW-1.1로 가중치 무료. 호스팅: OpenRouter에서 1M 토큰당 입력 $0.15 / 출력 $0.50부터, 무료 버전도 있음. NVIDIA NIM과 다른 업체는 가격이 별도입니다.
Nemotron 3.5 Super VL 리뷰 읽기4.1/5 - 17
라이선스와 데이터: 라이선스에 사용 제한이 없는 Apache 2.0입니다. 자체 호스팅하면 프롬프트는 자사 하드웨어에 머뭅니다. 호스팅 이용 시 보관 정책은 각 제공업체 약관을 따르며, OpenRouter의 EU 전용 라우팅은 Business 또는 Enterprise 플랜이 필요합니다.
운영: 월 입력 10억(1B) 토큰, 출력 2억 5,000만(250M) 토큰이면 100만 토큰당 $0.15/$0.60 기준 약 $300입니다. Bedrock batch는 요율이 절반입니다. 자체 호스팅은 추론에 80GB GPU 한 장, 파인튜닝에 H100 노드 하나가 필요합니다.
가격: Apache 2.0 무료 가중치입니다. 호스팅 가격은 제공업체마다 다릅니다.
gpt-oss-120b 리뷰 읽기4.0/5 - 18
라이선스와 데이터: Apache 2.0으로 상업 및 연구 용도에 사용 분야 제한 없이 열려 있습니다. 자체 호스팅하면 프롬프트는 자사 하드웨어에 머뭅니다.
운영: IBM API는 입력 100만 토큰당 $0.16, 출력 100만 토큰당 $0.65이며 캐시 적중 시 75% 할인됩니다. 자체 호스팅 시 30B는 4비트로 약 18GB, 8비트로 31GB가 필요합니다.
가격: Apache 2.0 무료 가중치입니다. watsonx와 서드파티 호스팅은 별도로 과금됩니다.
Granite 4.2 리뷰 읽기4.0/5 - 19
라이선스와 데이터: 셀프 호스팅하면 데이터가 로컬에 남습니다. LFM Open License v1.0은 연 매출 $10 million 미만에서만 상업 이용을 허용하며, 비영리 연구는 예외입니다. 가격 페이지의 학습 미사용 약속은 맞춤 배포에 대한 것이며, API 보관 조건은 그곳에 공개돼 있지 않습니다.
운영: VentureBeat가 보도한 요금으로 월 입력 10억(1 billion), 출력 1억(100 million) 토큰은 LFM3-1.7B로 약 $100, LFM3-VL-2B로 $150이며, Audio와 Omni의 오디오 토큰은 100만 개당 입력 $2, 출력 $10이 별도입니다. 셀프 호스팅에는 4비트로 1.05~1.10 GB, Q8_0으로 1.85 GB, BF16으로 3.47 GB가 필요합니다. Liquid는 B300 한 장에서 하루 36억(3.6 billion) 토큰을 보고합니다.
가격: LFM Open License에 따른 무료 가중치(상업 이용은 연 매출 $10M 미만만). VentureBeat가 로그인한 콘솔에서 확인해 보도한 Liquid API 가격: LFM3-1.7B 1M 토큰당 입력 $0.08 / 출력 $0.20, VL $0.10 / $0.50, Audio와 Omni $0.10 / $1.00에 오디오 토큰 별도. 호스팅 d1 의사결정은 입력 1M당 $0.02, 출력 무료.
LFM3 리뷰 읽기4.0/5 - 20
라이선스와 데이터: 가중치는 MIT이고 학습 콘텐츠 요약이 공개돼 있습니다. inclusionAI API의 개인정보 및 보관 조건은 모델 페이지와 OpenRouter 페이지에서 찾지 못했습니다. 민감한 데이터는 자체 호스팅하는 편이 낫습니다.
운영: $0.30/$0.90 기준으로 입력 500K, 출력 30K 토큰짜리 에이전트 과제 1,000건은 캐시 없이 약 $177이며, 평균보다 많은 추론 출력은 별도입니다. OpenRouter 기재 가격으로는 그 약 4분의 1입니다.
가격: MIT 라이선스 오픈 웨이트. inclusionAI API: Artificial Analysis 기준 1M 토큰당 입력 $0.30 / 출력 $0.90, 캐시 $0.06. OpenRouter 기재 가격은 $0.075 / $0.225.
Ling-3.1-flash 리뷰 읽기4.0/5 - 21
라이선스와 데이터: 직접 호스팅하므로 이미지와 문서는 자체 하드웨어에 남습니다. Apache 2.0은 매출 상한 없이 상업적 사용, 수정, 재배포를 허용합니다.
운영: 가중치는 무료입니다. 35B는 전체 정밀도에서 약 68 GB VRAM(MindStudio 테스트에서는 H100 한 대), Q8_0에서 36.90 GB, Q4_K_M에서 21.17 GB가 필요합니다. 1B는 Q4_K_M 0.67 GB에 비전용 1.11 GB가 더해집니다. 호스팅 토큰당 가격은 공개되지 않았습니다.
가격: 두 크기 모두 Apache 2.0 가중치가 무료입니다. 개발사의 호스팅 가격은 공개되지 않았으며 비용은 자체 하드웨어입니다.
MiniCPM-V 4.7 (35B-A3B and 1B) 리뷰 읽기4.0/5 - 22
라이선스와 데이터: 코드와 가중치 모두 Apache 2.0이며 매출 상한이나 허용 사용 부록이 없습니다. 직접 호스팅만 가능하므로 프롬프트는 자체 하드웨어에 남습니다. 이 모델을 호스팅하는 Hugging Face 추론 제공자는 없습니다.
운영: 호스팅 가격이 없으므로 비용은 하드웨어입니다. BF16 가중치는 약 5 GB, Q8_0은 2.68 GB, Q4_K_M은 1.56 GB로 소비자용 GPU 한 대나 노트북에 컨텍스트 여유를 두고 들어갑니다. OpenBMB는 서버 규모를 정할 처리량 수치를 공개하지 않습니다.
가격: Apache 2.0에 따라 가중치와 학습 데이터가 무료입니다.
MiniCPM5-2B 리뷰 읽기4.0/5 - 23
라이선스와 데이터: 라이선스: 상업적 사용 시 "Built with MiniMax M3.1-Flash" 표시와 MiniMax에 대한 1회 통지가 필요하고, 연 매출 2,000만 달러($20 million) 초과 제품은 사전 서면 승인이 필요하며, 군사적 사용은 금지입니다. MiniMax API의 데이터 보존 및 학습 조건은 우리가 확인할 수 있었던 페이지에 공개되어 있지 않았습니다.
운영: MiniMax API에서 한 달 입력 100억(10 billion) 토큰과 출력 10억(1 billion) 토큰은 약 $2,100이며, 캐시된 입력은 100만 토큰당 $0.015입니다. max 강도의 추론은 출력 쪽을 부풀립니다. 직접 호스팅에는 KV 캐시 전 MXFP8 가중치에만 약 250 GB의 GPU 메모리가 필요하며, H100 80 GB GPU 8개 노드 안에 들어갑니다.
가격: MiniMax 커뮤니티 라이선스의 오픈 웨이트. MiniMax API 1M 토큰당, 프롬프트 길이와 관계없이 고정: 입력 $0.15, 출력 $0.60, 캐시된 입력 $0.015.
MiniMax-M3.1-Flash 리뷰 읽기4.0/5 - 24
라이선스와 데이터: Muse Model License: 사용, 수정, 증류, 재배포 무료. 각 제품에 출처 표기 필수. 연 매출 $20M을 넘는 model-as-a-service 제공자는 별도 계약 필요. Meta는 출력물에 대한 소유권을 주장하지 않습니다. 자체 호스팅하면 아무것도 인프라 밖으로 나가지 않습니다.
운영: 자체 호스팅: NVFP4(약 537GB)는 Blackwell GPU 4장 노드 하나, BF16(약 1.65TB)은 B300 8장, 또는 512GB M5 Ultra Mac Studio 두 대. 호스팅으로 건당 입력 3,000, 출력 500 토큰인 고객 지원 답변을 월 100만 건 처리하면 OpenRouter 요금으로 약 $5,875입니다.
가격: Muse Model License의 무료 가중치입니다(출처 표기 필수, model-as-a-service는 매출 $20M 기준). OpenRouter 호스팅은 1M 토큰당 입력 $1.25, 캐시 $0.15, 출력 $4.25입니다.
Muse Spark Open 리뷰 읽기4.0/5 - 25
라이선스와 데이터: Qwen3.5-9B 베이스 모델을 따라 Apache 2.0이며, 라이선스 외에 매출 상한이나 사용 제한이 없습니다. 로컬에서 돌리면 프롬프트와 이미지가 기기에 남습니다.
운영: 보유한 하드웨어에서 무료로 돌릴 수 있습니다. 2.00 GB PTQ1_0 파일이 가장 작고, 2.68 GB MTP 파일은 추측 디코딩을 더합니다. PrismML은 M5 Max에서 최대 초당 179토큰, RTX 4090과 M5 Pro에서 전체 정밀도 모델 대비 최대 5배 처리량을 제시합니다. Darkbloom 가격은 공개되지 않았습니다.
가격: Apache 2.0으로 무료입니다. Darkbloom 콘솔에서 호스팅되며, 가격은 공개되지 않았습니다.
Ternary Bonsai 2 9B 리뷰 읽기4.0/5 - 26
라이선스와 데이터: 로컬에서 실행하면 아무것도 기기 밖으로 나가지 않습니다. OpenRouter 엔드포인트는 Recursive가 서빙합니다. 카드는 호스팅 약관과 데이터 처리 방식이 가중치 라이선스와 별개라고 하며, 공개된 보존 조건은 찾지 못했습니다.
운영: 가중치는 무료입니다. 로컬에서는 4-bit 빌드용으로 48 GB 메모리를 갖춘 Mac이나 GPU가 필요하고, 서버에서는 BF16 복제본(약 80 GB)당 H200 또는 B300 한 장이 필요합니다. 호스팅은 OpenRouter에서 무료이며 속도 제한이 있고, 유료 토큰당 가격은 공개되지 않았습니다.
가격: Apache 2.0 무료 오픈 가중치이며, OpenRouter에 속도 제한이 있는 무료 엔드포인트가 있습니다. 유료 Flint API는 일부 파트너 전용이며 가격은 공개 되지 않았습니다.
Flint 리뷰 읽기3.9/5 - 27
라이선스와 데이터: Apache 2.0이며 별도 이용 정책이나 매출 상한이 없습니다. 셀프 호스팅하면 프롬프트가 내 서버에 머뭅니다. Aleph Alpha는 고객별 작업에 고객 데이터를 학습에 쓰지 않는다고 말합니다.
운영: FP8 가중치는 약 78 GB입니다. Aleph Alpha는 최소 사양으로 H200, B200 또는 B300 한 장, 또는 80 GB A100이나 H100 두 장을 제시하고, 서빙에는 H100 두 장 또는 H200 두 장을 권장합니다. 호스팅 토큰당 가격은 공개되지 않았습니다.
가격: Apache 2.0으로 무료입니다. 공개 호스팅 API는 없으며, 기업 배포는 Aleph Alpha 영업팀을 통하고 가격은 공개되지 않았습니다.
Kolibri 1 리뷰 읽기3.9/5 - 28
라이선스와 데이터: 자체 호스팅 전용입니다. Apache 2.0이지만 Microsoft의 Responsible AI 안내는 연구 전용이라고 밝히며, 학습 데이터는 공개, 라이선스, 내부 출처에서 왔습니다. 모델 카드는 격리된 샌드박스, 자격 증명 마운트 금지, 프롬프트 인젝션에 대비한 네트워크 허용 목록을 요구합니다.
운영: BF16 가중치는 9.48 GB이고, ModelFit 계산 하나는 32K 토큰 전체 캐시를 약 4.8 GB로 봅니다. 따라서 24 GB GPU 한 장에 둘 다 들어갑니다. Microsoft는 최소 하드웨어를 공개하지 않습니다. 테스트에서 과제당 평균 모델 호출 18.77회, 출력 토큰 5,499개였습니다.
가격: Apache 2.0으로 무료이지만, Microsoft 저장소는 Mage 모델이 연구용이며 제품이나 서비스 배포를 위한 것이 아니라고 밝힙니다. 호스팅 API 없음.
Mage-VL-Cowork 리뷰 읽기3.9/5 - 29
라이선스와 데이터: 라이선스: 상업적 사용 시 "Built with MiniMax M3" 표시와 MiniMax에 대한 통지가 필요하고, 연 매출 2,000만 달러($20 million) 초과 제품은 사전 서면 허가가 필요하며, 군사적 사용은 금지입니다. MiniMax API 약관은 소유권을 사용자에게 두지만 입력과 생성 콘텐츠를 서비스 개발과 개선에 쓸 수 있게 하며, 옵트아웃이나 보존 기간은 공개되지 않았습니다.
운영: 건당 입력 2,000토큰, 출력 300토큰으로 한 달 지원 답변 100만 건은 표준 등급에서 약 $960이며, 시스템 프롬프트를 캐시하면 더 줄어듭니다. BF16 직접 호스팅에는 KV 캐시 전 약 850 GB의 GPU 메모리가 필요합니다. H200이나 B200 8개 GPU 노드, 또는 H100 노드 2개 이상입니다.
가격: MiniMax 커뮤니티 라이선스의 오픈 웨이트. 512K 이하 프롬프트 기준 API 1M 토큰당: 입력 $0.30, 출력 $1.20, 캐시 $0.06. 512K 초과 시 두 배, priority 등급은 1.5x.
MiniMax-M3 리뷰 읽기3.9/5 - 30
라이선스와 데이터: 자체 호스팅이므로 데이터가 로컬에 남습니다. OpenMDW-1.1은 매출 상한 없이 상업적 사용을 허용하며, 모델의 특허나 저작권을 두고 소송을 제기하면 권리가 소멸합니다. NVIDIA는 사전 학습 및 사후 학습 데이터셋을 공개하지만, 많은 출처를 비공개로 표시합니다.
운영: 가중 치는 무료이고 Artificial Analysis에는 74B의 종량 가격이 없습니다. 하드웨어: 74B는 65K 컨텍스트에 32 GB GPU, 262K에 48 GB가 필요합니다. E4B는 NVIDIA 테스트에서 RTX 5070부터 Jetson Orin까지 최대 3.1~5.0 GB를 씁니다.
가격: OpenMDW-1.1 오픈 가중치 무료. 두 모델 모두 공개된 종량 API 가격은 없으며, E4B는 build.nvidia.com 엔드포인트가 있습니다.
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) 리뷰 읽기3.9/5 - 31
라이선스와 데이터: Apache 2.0이며 사용 제한이 없습니다. Intern Discovery 호스팅 체험의 데이터 조건은 모델 카드에 없으므로, 민감한 작업은 자체 호스팅해야 합니다.
운영: 359억 5천만(35.95B) 파라미터로 BF16 기준 약 72GB이므로, 80GB GPU 한 장에 캐시 여유가 거의 없습니다. FP8 빌드는 그 절반이며, Q4_K_M GGUF는 llama.cpp, Ollama, LM Studio에서 실행됩니다.
가격: Apache 2.0 오픈 가중치. Shanghai AI Lab의 Intern Discovery 토큰 플랜으로 무료 체험 가능. 유료 API 가격은 공개되지 않음.
Sage-A1.5 리뷰 읽기3.9/5 - 32
라이선스와 데이터: Apache 2.0이며, Reflection의 Usage Policy를 함께 따를 것을 권장합니다. Reflection API에서는 각 응답의 reflection-data-retention 헤더가 zero, standard, contributor 보존 중 무엇인지 알려 줍니다. 요청을 학습에 쓸 수 있는 것은 조직이 수락해야 하는 contributor 조건뿐입니다.
운영: 월 입력 10억(1 billion), 출력 1억(100 million) 토큰은 Together AI나 Baseten 에서 약 $520, Nebius에서 약 $350입니다. 자체 호스팅에는 KV 캐시를 빼고도 NVFP4 273 GiB, FP8 468.72 GiB, BF16 933.81 GiB가 필요합니다.
가격: Apache 2.0으로 가중치 무료. Reflection API는 일일 한도가 있는 공개 베타로 무료. 호스팅: Together AI와 Baseten은 1M 토큰당 입력 $0.40 / 캐시 $0.04 / 출력 $1.20, OpenRouter는 $0.24 / $0.98부터.
Beam 리뷰 읽기3.8/5 - 33
라이선스와 데이터: 직접 호스팅하는 가중치는 Apache 2.0 아래 데이터를 사내에 둡니다. Cohere API 플랫폼은 SOC 2 Type II이며, 유료 고객의 경우 기록된 프롬프트와 생성 결과를 30일 후 삭제하고, 학습 활용은 Data Controls에서 끄는 항목으로 취급합니다(기본값은 밝히지 않음). 데이터 무보존(zero data retention)은 승인된 기업 고객만 이용할 수 있습니다. 프라이빗 배포는 고객의 VPC, 온프레미스 또는 Model Vault에서 실행되며, Cohere는 여기에 접근할 수 없다고 밝힙니다.
운영: 직접 호스팅에는 W4A4 기준 H100 두 장 또는 B200 한 장, FP8은 H100 네 장, BF16은 여덟 장이 필요합니다. 호스팅 서비스로는 입력 8,000 토큰, 출력 400 토큰짜리 RAG 답변을 월 1M(100만) 건 처리하면 OpenRouter의 $0.30/$1.50 기준 약 $3,000입니다.
가격: 가중치는 Apache 2.0으로 무료. Cohere API 요금은 비공개이며, OpenRouter는 1M 토큰당 입력 $0.30 / 출력 $1.50로 표기합니다. 프라이빗 배포는 견적에 따릅니다.
Command A+ 리뷰 읽기3.8/5 - 34
라이선스와 데이터: 자체 호스팅이므로 프롬프트는 로컬 에 머뭅니다. Apache 2.0은 상업적 사용과 파인튜닝을 허용하며, 사용 정책은 관련 법 준수만 요구합니다.
운영: 가중치는 무료이며 16GB GPU에 들어갑니다. OpenRouter 호스팅은 100만(1M) 토큰당 입력 $0.018, 출력 $0.09부터라 월 100만 건의 짧은 답변은 $100에 한참 못 미칩니다. Artificial Analysis는 지수 과제당 약 $0.01로 봅니다.
가격: Apache 2.0 무료 가중치입니다. OpenRouter 호스팅은 100만(1M) 토큰당 입력 $0.018 / 출력 $0.09부터이며, Artificial Analysis는 $0.07 / $0.25로 표시합니다.
gpt-oss-20b 리뷰 읽기3.8/5 - 35
라이선스와 데이터: 셀프 호스팅하면 데이터가 로컬에 남습니다. LFM Open License v1.0은 연 매출 $10 million 미만 조직에만 상업 이용을 허용하며, 비영리 연구는 예외입니다.
운영: OpenRouter에서 월 입력 10억(1 billion), 출력 1억(100 million) 토큰은 약 $120, Liquid Console의 $0.10/$1.00로는 약 $200입니다. 셀프 호스팅에는 4비트로 13.58~14.53 GB, Q8_0으로 25.49 GB, BF16으로 47.96 GB가 필요합니다.
가격: LFM Open License에 따른 무료 가중치(상업 이용은 연 매출 $10M 미만만). Liquid Console: 1M 토큰당 입력 $0.10 / 출력 $1.00. OpenRouter: $0.05 / $0.70.
LFM2.5-24B-A2B 리뷰 읽기3.8/5 - 36
라이선스와 데이터: MIT 가중치로 제한 없이 자체 호스팅할 수 있으며, 환자 데이터에는 이 경로가 더 안전합니다. Vercel의 유일한 제공업체는 Novita이고, 게 이트웨이 페이지에는 데이터 무보관이나 학습 미사용 표시가 없습니다. 건강 정보를 보내기 전에 Novita의 약관을 확인해야 합니다.
운영: 256K 컨텍스트 전체를 쓰려면 자체 호스팅에 141 GB GPU 4장 또는 80 GB GPU 8장이 필요합니다. 호스팅으로 월 입력 1억 토큰, 출력 2,000만 토큰이면 Vercel 대표 가격 기준으로 추론 토큰을 빼고 약 $11.40입니다.
가격: MIT 라이선스 오픈 웨이트. Vercel AI Gateway: 1M 토큰당 입력 $0.07 / 출력 $0.22 (Novita 항목: 입력 $0.08, 캐시 $0.02).
Ling-3.0-flash-Sante 리뷰 읽기3.8/5 - 37
라이선스와 데이터: 수정된 MIT: 회사 월 매출이 2,000만 달러 미만일 때만 사용 가능. Mistral Studio 무료 모드의 입력과 출력은 학습에 쓰일 수 있고, 종량제 고객은 옵트아웃할 수 있으며, Vibe는 Enterprise를 제외하면 기본적으로 학습에 씁니다.
운영: 한 달 입력 10억(1B) 토큰과 출력 1억(100M) 토큰은 정가로 약 $2,250, 50% batch 할인으로 약 $1,125이며, 같은 부하를 Large 4로 처리하면 약 $1,778입니다. 직접 호스팅은 대부분 FP8인 가중치 약 134 GB이므로 80 GB GPU 4개가 최소입니다.
가격: 수정된 MIT 라이선스의 오픈 웨이트(월 매출 $20M 초과 기업은 권리 없음). API: 입력 1M 토큰당 $1.50, 출력 1M 토큰당 $7.50, batch 50% 할인.
Mistral Medium 3.5 리뷰 읽기3.8/5 - 38
라이선스와 데이터: 사용 제한이 없는 Apache 2.0입니 다. 자체 호스팅만 가능하므로 제3자 데이터 약관은 적용되지 않습니다. 모델 카드 외에 데이터 출처에 관한 설명은 없습니다.
운영: BF16 가중치는 약 66GB가 필요해 캐시를 빼고도 24GB GPU 4장 또는 48GB GPU 2장이 듭니다. 4비트 빌드는 약 21GB에 128K 컨텍스트에서 캐시 약 28GB가 더해집니다.
가격: Apache 2.0 오픈 가중치. 공식 호스팅 API 없음.
Nanbeige4.3-33B 리뷰 읽기3.8/5 - 39
라이선스와 데이터: 자체 호스팅이므로 이미지가 사용자 하드웨어에 남습니다. 가중치는 NVIDIA Open Model License로, 상업적 이용과 파생물이 허용되고 매출 상한이 없지만, 모델에 대해 특허나 저작권 소송을 제기하면 라이선스가 종료되고, NVIDIA가 업데이트할 수 있으며, 재배포 시 라이선스와 고지를 포함해야 합 니다. Qwen3.5 부분과 저장소 코드는 Apache 2.0입니다.
운영: 가중치는 무료이며 호스팅 가격은 없습니다. 가중치 파일은 BF16 19.59 GB, FP8 12.67 GB, NVFP4 9.81 GB이고, GGUF Q4_K_M은 5.63 GB에 0.88 GB Q8_0 비전 파일이 더해집니다. NVFP4는 NVIDIA Blackwell GPU에서만 네이티브로 지원됩니다. 6.42 GB DSpark 드래프트 모델은 Taichu 테스트에서 H800 한 장에서 2.46배에서 3.17배의 속도 향상을 냈습니다.
가격: 가중치는 NVIDIA Open Model License로 무료이며, Qwen3.5 부분은 Apache 2.0입니다. 호스팅 API나 토큰당 가격은 공개되지 않았고, 자신의 GPU 비용만 듭니다.
ZDTaichu5.0-9B 리뷰 읽기3.8/5 - 40
라이선스와 데이터: 자체 호스팅이므로 코드는 자사 인프라에 남습니다. 모델 카드는 기본적으로 네트워크 접근을 끈 최소 권한 샌드박스를 요구합니다. FrogNano 자체는 안전, 거절, 적대적 학습을 받지 않았습니다.
운영: API 가격은 없습니다. BF16 가중치는 약 9.3 GB에 KV 캐시가 더해지며, KV 캐시는 131K 토큰 한도에 가까워지면 크게 늘어납니다. CPU, 데스크톱, 모바일, 양자화 사용은 검증되지 않았습니다. Microsoft의 벤치마크 프리셋은 과제마다 최대 10,800초와 150단계를 줍니다.
가격: 가중치 무료(Hugging Face 태그는 MIT, 카드의 표는 Apache 2.0). 호스팅 API는 없으며, 예를 들어 SGLang으로 직접 서빙합니다.
FrogNano-4B-2609 리뷰 읽기3.7/5 - 41
라이선스와 데이터: 완전히 로컬에서 작동하며 아무것도 외부로 보내지 않습니다. Gemma 4 12B에서 물려받은 Apache 2.0이며, 작성자는 Google과 관계가 없습니다.
운영: 무료입니다. Q8_0은 12.7 GB이고 Mac에서 최대 13.7 GB, Q4_K_M은 7.6 GB, 2비트 파일은 3.9 GB에 최대 6.2 GB입니다. M5 Max에서 속도는 초당 약 36~38토큰입니다.
가격: Apache 2.0으로 무료입니다. 가중치, GGUF 파일, 데스크톱 앱, CLI가 포함됩니다. 호스팅 서비스는 없습니다.
humanizer (12B) 리뷰 읽기3.7/5 - 42
라이선스와 데이터: Apache 2.0이며 사용 제한이 없습니다. 셀프호스팅이므로 사용자 기억이 자사 인프라 밖으로 나가지 않습니다. 모든 턴을 호스팅 모델로 보내는 방식과 비교한 주된 개인정보 보호상의 이점입니다.
운영: BF16 가중치가 약 60GB이므로 80GB H100 한 장이나 48GB GPU 두 장이 필요합니다. 더 작은 카드에 맞출 양자화 빌드는 아직 없습니다.
가격: Apache 2.0 오픈 웨이트입니다. 호스팅 API는 없습니다.
Hy-Memory-30B-A3B 리뷰 읽기3.7/5 - 43
라이선스와 데이터: Apache 2.0은 출처 표기나 매출 제한 없이 상업적 사용을 허용합니다. Mistral API에서는 무료 등급의 입력과 출력이 거부하지 않는 한 학습에 쓰일 수 있고, 종량제 사용자는 언제든 거부할 수 있습니다. 좋아요/싫어요 피드백은 모든 요금제에서 활용될 수 있습니다.
운영: 입력 1,500 토큰, 출력 250 토큰짜리 채팅 답변을 월 1M 건 처리하면 API로 약 $375, 배치로 약 $190입니다. 자체 호스팅은 FP8 기준 레플리카당 H100급 GPU 2~4장 또는 DGX B200 1대가 필요합니다.
가격: Apache 2.0으로 가중치 무료. API: 1M 토큰당 입력 $0.15 / 출력 $0.60, 배치 50% 할인, 캐시된 입력 최대 90% 할인.
Mistral Small 4 리뷰 읽기3.7/5 - 44
라이선스와 데이터: 자체 호스팅이므로 프롬프트는 기기에 머뭅니다. 가중치는 Apache 2.0입니다. 카드에는 학습 데이터나 안전성 테스트에 대한 설명이 없습니다. 불러올 때 배포자 자체의 모델 코드가 실행됩니다.
운영: 하드웨어 비용뿐입니다. BF16 가중치는 약 8.2 GB, Q4_K_M GGUF는 약 3.5 GB입니다. 1M 토큰 컨텍 스트에는 가중치보다 훨씬 많은 메모리가 필요하며, 카드는 이를 낮추라고 권합니다.
가격: Apache 2.0으로 무료이며 자체 하드웨어에서 실행합니다. 4B 모델의 호스팅 가격은 공개되지 않았습니다.
Spark-X2.6-4B 리뷰 읽기3.7/5 - 45
라이선스와 데이터: Qwen3.6-35B-A3B에서 물려받은 Apache 2.0이며 상위 저작권 표기가 유지됩니다. 자체 호스팅만 가능합니다.
운영: BF16에는 80GB H100 또는 H200 한 장. DiffuSpace 테스트에 따르면 INT4는 16GB 소비자용 GPU에서 실행됩니다.
가격: Apache 2.0 공개 가중치, 호스팅 API 없음.
Clover-35B-A3B-Preview 리뷰 읽기3.6/5 - 46
라이선스와 데이터: Falcon LLM 라이선스: 로열티 없음, 매출 상한 없음, 출처 표시 의무, 그리고 TII가 수정할 수 있고 사용자가 계속 확인해야 하는 이용 정책.
운영: 공식 GGUF 파일은 Q4_K_M 4.6GB, Q8_0 8.1GB부터 BF16 15.2GB까지이므로, 24GB GPU 한 장으로 운영 배치를 처리할 수 있습니다. 비교할 토큰당 호스팅 가격은 없습니다.
가격: Falcon LLM 라이선스로 가중치는 무료입니다(로열티 없음, 출처 표시와 이용 정책 준수 필요). Artificial Analysis에 등록된 공개 호스팅 API는 없습니다.
Falcon-H1R-7B 리뷰 읽기3.6/5 - 47
라이선스와 데이터: 셀프 호스팅 전용이므로 문제와 답이 내 하드웨어에 머뭅니다. 학습 데이터는 선별한 3,000억(300 billion) 토큰 미만이라고만 설명돼 있으며, 자세한 내용은 기술 보고서를 기다려야 합니다.
운영: 가중치는 무료입니다. 1B BF16 체크포인트는 약 2 GB라 GPU 한 장으로 서빙하며, 카드에 따라 텐서·파이프라인 병렬도는 1로 둡니다. 호스팅 가격은 없습니다.
가격: Apache 2.0의 무료 오픈 웨이트입니다. 호스팅 API는 없으며, 자체 GPU 비용만 듭니다.
Limite 1B - Violetto 리뷰 읽기3.6/5 - 48
라이선스와 데이터: 추론은 네트워크를 전혀 쓰지 않으며 망 분리 환경에서도 작동합니다. 익명 사용 텔레메트리는 기본으로 켜져 있고, NEEDLE_TELEMETRY=0과 DO_NOT_TRACK=1로 끕니다. 학습 데이터는 독점이며 공개되지 않았습니다.
운영: 라이선스나 호출당 요금이 없습니다. Cactus는 Raspberry Pi 5에서 디코딩 속도가 20레이어 초당 약 400 토큰부터 2레이어 4,000 토큰까지라고 보고합니다. 플랫폼 파인튜닝과 2비트 사후 학습은 유료이며 가격은 공개되지 않았습니다.
가격: Apache 2.0 오픈 가중치는 무료이고, 사전 빌드 엔진도 무료로 내려받을 수 있습니다. Cactus Platform은 2비트 사후 학습, 데이터셋, 전체 파인튜닝을 판매하며 가격은 공개하지 않습니다.
Needle 3 리뷰 읽기3.6/5 - 49
라이선스와 데이터: 자체 호스팅 전용이므로 데이터는 실행하는 곳에 남습니다. 자체 API가 없으니 검토할 보존이나 학습 조건도 없습니다.
운영: 가중치는 무료입니다. BF16은 250 GB(멀티 GPU 노드), FP8은 133 GB(80 GB 카드 두 장)이며, 80 GB 카드 한 장에 근접하는 빌드는 NVFP4(77.7 GB)와 Q4_K_M(75.8 GB)뿐입니다. Mac에는 68.7 GB MLX 4비트 빌드가 있습니다. 자체 호스팅 가격은 공개되지 않았습니다. NanoGPT는 100만 토큰당 입력 $0.20, 출력 $0.80을 표시하지만 모델을 사용 불가로 표시합니다.
가격: MIT 라이선스의 무료 오픈 가중치입니다. 자체 하드웨어나 호스팅 비용만 듭니다.
Ornith-1.5-122B 리뷰 읽기3.6/5 - 50
라이선스와 데이터: Apache 2.0은 매출이나 사용자 제한 없이 상업적 이용, 파인튜닝, 재배포를 허용합니다. 자체 호스팅하면 프롬프트가 내부에 머뭅니다. OpenRouter에서는 EU 역내 라우팅으로 이용할 수 없고, 호스트마다 보관 정책이 다릅니다.
운영: OpenRouter 호스트는 1M 토큰당 입력 $0.39에서 $0.75, 출력 $2.34에서 $4.50을 받습니다. 호스팅 Qwen3.5-Plus는 $0.30/$1.80입니다. 자체 호스팅에는 FP8 약 406 GB(80 GB GPU 8장 서버), 4비트 214 GB, 3비트 180 GB가 필요합니다.
가격: 가중치는 Apache 2.0으로 무료입니다. Alibaba Cloud의 Qwen3.5-Plus와 서드파티 호스팅은 별도 과금입니다.
Qwen3.5-397B-A17B 리뷰 읽기3.6/5 - 51
라이선스와 데이터: 자체 호스팅이므로 데이터가 기기에 남습니다. Apache 2.0은 상업적 이용과 수정을 허용하며, NOTICE 파일에 Qwen과 ISTA-DASLab이 표기되어 있습니다.
운영: 가중치는 무료이며 자체 API 가격은 없습니다. 파일은 7.89 GB에 비전용 최대 928 MB가 더해지고, Underdog은 16 GB 노트북에서 돌아간다고 말합니다. 긴 컨텍스트의 VRAM 수치는 공개되지 않았습니다.
가격: Apache 2.0으로 가중치는 무료입니다. 호스팅 API 가격은 없으며, 자신의 하드웨어 비용을 내거나 Underdog 앱 안에서 씁니다.
Underdog Saluki 27B 1.0 리뷰 읽기3.6/5 - 52
라이선스와 데이터: Apache 2.0: 매출 상한이나 허용 사용 부속서 없이 상업적 이용과 파인튜닝이 허용됩니다. 자체 호스팅하면 아무것도 서버 밖으로 나가지 않습니다. OpenRouter 엔드포인트는 제3자인 Phala가 자체 조건으로 운영합니다.
운영: BF16 가중치는 약 62GB(임베딩 포함 31.2B 파라미터)로 80GB H100 한 장에 올라가고, FP8은 그 절반이며, 11.6GB 커뮤니티 GGUF 빌드는 16GB 카드에 맞습니다. 유일한 호스팅 옵션인 OpenRouter 무료 엔드포인트는 분당 20회, 하루 50회(계정에서 $10어치 크레딧을 사면 하루 1,000회)로 제한되므로, 실서비스 트래픽에는 자체 호스팅이 필요합니다.
가격: Apache 2.0으로 가중치는 무료입니다. 자체 API는 없으며, OpenRouter에 무료 모델 요청 한도가 적용되는 무료 엔드포인트(Phala 호스팅)가 있습니다.
Xing4.0-29B-A4B 리뷰 읽기3.6/5 - 53
라이선스와 데이터: 사용 제한 없는 Apache 2.0이며 자체 호스팅만 가능합니다. 불러올 때 원격 코드가 필요하므로 SenseTime의 Python이 사용자 기기에서 실행됩니다. 긴 시퀀스 멀티모달 및 도구 궤적 레시피 외에는 학습 데이터에 대한 설명이 없습니다.
운영: 38.1 GB 체크포인트와 모든 서빙 예제의 4-way 텐서 병렬을 보면 단일 카드가 아니라 다중 GPU 서버용입니다. 토큰마다 레이어 패스 56회가 들어 토큰당 연산량은 9B 모델보다 14.6B 모델에 가깝습니다.
가격: Apache 2.0으로 무료입니다. 이 모델의 호스팅 API는 나와 있지 않습니다.
SenseNova-Loop-9B-Preview 리뷰 읽기3.5/5 - 54
라이선스와 데이터: 별도의 허용 사용 부칙 없는 Apache 2.0으로, 상업적 이용과 재배포가 허용됩니다. 자체 호스팅만 가능하므로 데이터는 자기 기기나 서버에 머뭅니다. 학습 데이터 혼합이 공개돼 있어 출처 확인이 가능합니다.
운영: 약 3.1B 파라미터, BF16에서 대략 6GB이므로 소비자용 GPU 한 장, Apple 노트북, 또는 4비트 휴대폰 빌드로 충분합니다. 유료 API가 없으니 대량 사용 비용은 자기 하드웨어 비용입니다.
가격: Apache 2.0의 무료 가중치이며, 학습 데이터 레시피와 체크포인트가 공개돼 있습니다. Hugging Face 자체 Inference Providers에는 호스팅 API가 없습니다.
SmolLM3-3B 리뷰 읽기3.5/5 - 55
호스팅 API는 2026년 3월 31일에 종료되었습니다. 오픈 웨이트는 계속 쓸 수 있습니다
라이선스와 데이터: 사용 제한이 없는 Apache 2.0입니다. 자체 호스팅이므로 서드파티 호스트를 고르지 않는 한 코드가 자기 하드웨어 밖으로 나가지 않습니다.
운영: 자사 API 가격은 더 이상 없습니다. 자체 호스팅에는 공식 FP8 가중치 기준 약 24GB, Q6_K는 19.3GB, Q4_K_M은 14.3GB의 VRAM이 필요하고, 긴 컨텍스트에서는 KV 캐시용 메모리가 추가로 듭니다.
가격: 가중치는 Apache 2.0으로 무료입니다. Mistral의 API 버전은 2026년 3월 31일 종료됐고, Artificial Analysis에도 공개 API가 등록돼 있지 않습니다.
Devstral Small 2 리뷰 읽기3.4/5 - 56
라이선스와 데이터: MIT 라이선스입니다. 자체 호스팅하면 이미지와 프롬프트가 로컬에 남고, Foundry 호스팅은 Azure 약관을 따릅니다.
운영: 자체 호스팅에는 30GB를 넉넉히 넘는 GPU, 예를 들어 48GB A6000이나 80GB A100이 필요합니다. Foundry 가격은 공개되지 않았습니다. 모델 카드에도, 다른 Phi-4 모델의 토큰당 요금은 실린 Azure 소매 가격표에도 없습니다.
가격: MIT 라이선스의 무료 가중치입니다. Microsoft Foundry 호스팅은 별도로 청구됩니다.
Phi-4-Reasoning-Vision-15B 리뷰 읽기3.4/5 - 57
라이선스와 데이터: 매출 상한이나 별도 사용 정책이 없는 MIT 라이선스입니다. 자체 호스팅하면 오디오와 이미지가 사용자 하드웨어에 남습니다. Azure 약관은 Microsoft의 호스팅 엔드포인트를 쓸 때만 적용됩니다.
운영: Azure AI Foundry에서 오디오 입력은 100만 토큰당 $4로, 텍스트와 이미지의 $0.08보다 비싸 음성이 청구액 대부분을 차지합니다. 출력은 100만 토큰당 $0.32이며, Azure 소매 가격표상 출시 당시와 같은 요율입니다. 자체 호스팅에는 최근 데이터센터 GPU 한 장이 필요합니다.
가격: MIT 라이선스의 무료 가중치입니다. Azure AI Foundry: 텍스트 또는 이미지 100만 토큰당 입력 $0.08 / 출력 $0.32, 오디오 입력은 100만 토큰당 $4입니다.
Phi-4-multimodal 리뷰 읽기3.3/5 - 58
호스팅 API는 2026년 7월 31일에 종료되었습니다. 오픈 웨이트는 계속 쓸 수 있습니다
라이선스와 데이터: 수정된 MIT: 직전 달 전 세계 월 매출이 $20M을 넘는 회사는 파생물을 포함해 권리가 없고, 저작자 표시가 필요합니다. 자체 호스팅이므로 코드는 사용자의 하드웨어에 남습니다.
운영: 자체 호스팅에는 가중치에만 약 125 GB가 필요하므로, KV cache를 빼고도 80 GB GPU 4장 노드가 최소입니다. Mistral API에서 월 입력 1B 토큰과 출력 100M 토큰을 쓰면 정가 기준 약 $600가 들었을 것입니다.
가격: 수정된 MIT 라이선스의 오픈 가중치입니다(월 매출 $20M 초과 회사는 사용 불가). 2026년 7월 31일 Mistral API에서 퇴역했습니다.
Devstral 2 리뷰 읽기3.1/5
출처
이 순위에 있는 각 리뷰의 주요 공식 출처입니다. 전체 출처는 각 리뷰에 있습니다.
- MiMo-V2.6-Pro: Hugging Face: XiaomiMiMo/MiMo-V2.6-Pro-RL model card
- Qwen3.8-27B: Hugging Face: Qwen/Qwen3.8-27B model card
- Gemma 4: Google: Gemma 4, byte for byte the most capable open models
- GLM-5.3: Hugging Face: zai-org/GLM-5.3 model card
- SAM 3 (Segment Anything Model 3): Hugging Face: facebook/sam3 (gated model page)
- DeepSeek-V4-Pro: Hugging Face: DeepSeek-V4-Pro model card
- GLM-5.3-Flash: Hugging Face: zai-org/GLM-5.3-Flash model card
- Kimi K3: Kimi K3 tech blog: Open Frontier Intelligence
- DeepSeek-V4.1-Flash: Hugging Face: DeepSeek-V4.1-Flash model card
- Hy4 preview: Hugging Face: tencent/Hy4-preview model card
- Qwen3.8-Flash-Next: Hugging Face: Qwen/Qwen3.8-Flash-Next model card
- Qwen3.8-Max: Qwen Cloud: Qwen3.8-Max
- Step 5 Preview: Hugging Face: stepfun-ai/Step-5-Preview model card
- Ministral 3 (3B, 8B and 14B): Mistral AI: Introducing Mistral 3
- Muse Glimmer: Meta: Introducing Muse Glimmer
- Nemotron 3.5 Super VL: Hugging Face: NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 model card
- gpt-oss-120b: Hugging Face: openai/gpt-oss-120b model card
- Granite 4.2: IBM Research: Granite 4.2 brings native reasoning to enterprise agents
- LFM3: Liquid AI blog: Introducing LFM3
- Ling-3.1-flash: Hugging Face: inclusionAI/Ling-3.1-flash model card
- MiniCPM-V 4.7 (35B-A3B and 1B): Hugging Face: MiniCPM-V-4.7-35B-A3B model card
- MiniCPM5-2B: Hugging Face: openbmb/MiniCPM5-2B model card
- MiniMax-M3.1-Flash: Hugging Face: MiniMaxAI/MiniMax-M3.1-Flash model card
- Muse Spark Open: Meta AI Research: Introducing Muse Spark Open
- Ternary Bonsai 2 9B: Hugging Face: prism-ml/Ternary-Bonsai-2-9B-gguf model card
- Flint: Flint model card (Hugging Face)
- Kolibri 1: Hugging Face: Aleph-Alpha/Kolibri-1 model card
- Mage-VL-Cowork: Hugging Face: microsoft/Mage-VL-Cowork model card
- MiniMax-M3: Hugging Face: MiniMaxAI/MiniMax-M3 model card
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB): Hugging Face: NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-GGUF model card
- Sage-A1.5: Hugging Face: InternScience/Sage-A1.5 model card
- Beam: Hugging Face: reflection/Beam-1.0-501B-A23B model card
- Command A+: Cohere docs: Command A+
- gpt-oss-20b: Hugging Face: openai/gpt-oss-20b
- LFM2.5-24B-A2B: Hugging Face: LFM2.5-24B-A2B model card
- Ling-3.0-flash-Sante: Hugging Face: inclusionAI/Ling-3.0-flash-Sante model card (evaluation table)
- Mistral Medium 3.5: Mistral AI: Remote agents in Vibe, powered by Mistral Medium 3.5
- Nanbeige4.3-33B: Hugging Face: Nanbeige/Nanbeige4.3-33B model card
- ZDTaichu5.0-9B: Hugging Face: TaichuAI/ZDTaichu5.0-9B model card
- FrogNano-4B-2609: Hugging Face: microsoft/FrogNano-4B-2609 model card
- humanizer (12B): Hugging Face: jialinyyzz/humanizer model card
- Hy-Memory-30B-A3B: Hugging Face: tencent/Hy-Memory-30B-A3B model card
- Mistral Small 4: Mistral AI: Introducing Mistral Small 4
- Spark-X2.6-4B: Hugging Face: XHToken/Spark-X2.6-4B model card
- Clover-35B-A3B-Preview: Hugging Face: Diffuspace/Clover-35B-A3B-Preview model card
- Falcon-H1R-7B: Hugging Face: tiiuae/Falcon-H1R-7B model card
- Limite 1B - Violetto: Paradigma: Limite 1B - Violetto release blog
- Needle 3: Cactus Compute: Needle 3 release page
- Ornith-1.5-122B: Ornith-1.5: From Self-Scaffolding to Self-Improvement
- Qwen3.5-397B-A17B: Hugging Face: Qwen/Qwen3.5-397B-A17B model card
- Underdog Saluki 27B 1.0: Hugging Face: Underdog Saluki 27B 1.0 model card
- Xing4.0-29B-A4B: Hugging Face: XingChen-AGI/Xing4.0-29B-A4B model card
- SenseNova-Loop-9B-Preview: Hugging Face: sensenova/SenseNova-Loop-9B-Preview model card
- SmolLM3-3B: Hugging Face: HuggingFaceTB/SmolLM3-3B model card
- Devstral Small 2: Hugging Face: mistralai/Devstral-Small-2-24B-Instruct-2512 model card
- Phi-4-Reasoning-Vision-15B: Hugging Face: microsoft/Phi-4-reasoning-vision-15B model card
- Phi-4-multimodal: Hugging Face: microsoft/Phi-4-multimodal-instruct model card
- Devstral 2: Hugging Face: mistralai/Devstral-2-123B-Instruct-2512 model card