본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

Inkling 2 Mini

Thinking Machines의 Apache 라이선스 26B 루프형 모델로, 32GB Mac에 들어가며 연구소 자체 지표에서 Qwen3.8-27B와 같은 점수를 냅니다.

리뷰어: ReviewRamble editors · 업데이트

Inkling 2 Mini 방문 오픈 소스

이 페이지 공유:XLinkedInFacebookRedditWhatsApp이메일

평점

4.3/5

Inkling 2 Mini는 Inkling 2 Small을 묶어 둔 Thinking Machines가 내놓았어야 할 오픈 모델로, 노트북에서 돌아가는 20GB 다운로드이면서 Qwen3.8-27B와 대등합니다.

Inkling 2 Mini의 개요

Inkling 2 Mini는 Thinking Machines Lab의 Inkling 2세대 가운데 내려받을 수 있는 소형 모델로, 2026년 11월 20일 Apache 2.0으로 공개됐습니다. 전체 파라미터 264억 개, 토큰당 활성 파라미터 34억 개의 mixture-of-experts 모델이며 각 토큰을 128개 전문가 중 8개로 보냅니다. 24개 층 가운데 가운데 12개 층을 가중치를 공유한 채 세 번 실행하는 구조로, 연구소는 이를 루프형 transformer라고 부릅니다. 체크포인트에는 24개 층만 저장되지만 각 토큰은 48개 층을 거치므로 실효 활성 파라미터는 약 54억 개입니다. 텍스트와 이미지를 읽고 텍스트를 출력하며 최대 100만 토큰의 컨텍스트를 지원합니다.

공식 체크포인트는 NVFP4와 MXFP8 혼합 정밀도로 약 20GB이며 DGX Spark 1대, 32GB 이상의 Apple silicon Mac, 또는 메모리 32GB 이상의 GPU를 대상으로 합니다. ggml-org는 llama.cpp용 GGUF 빌드를 52.2GB(BF16), 27.8GB(Q8_0), 17.6GB(IQ4_NL)로 공개합니다. 상위 모델인 Inkling 2 Small은 여전히 비공개입니다.

Inkling 2 Mini의 가격은 얼마입니까?

플랜가격포함 내용
WeightsFreeApache 2.0, 자체 호스팅
Tinker inference$0.15 / $0.50 per 1M tokens입력 / 출력. 캐시 입력 $0.015
Tinker training$0.75 (64K) or $1.50 (256K) per 1M tokensLoRA 파인튜닝

가중치는 Apache 2.0으로 무료. Tinker: 입력 100만 토큰당 $0.15(캐시 $0.015), 출력 100만 토큰당 $0.50. 학습은 64K 컨텍스트에서 100만 토큰당 $0.75, 256K에서 $1.50.

이 가격을 다른 모델과 비교

Inkling 2 Mini, 쓸 만한 가치가 있습니까?

Inkling 2 Mini는 Thinking Machines 모델을 직접 돌릴 이유로는 지금까지 가장 강력하지만, 이를 뒷받침하는 점수는 모두 연구소 자체 수치입니다. 모델 카드에서 Artificial Analysis Intelligence Index v5.0 점수는 20.1로 Qwen3.8-27B와 같고, Nemotron 3.5 Super VL(13.6), Muse Glimmer(6.3), Gemma 4 31B(4.4)보다 높습니다. Hugging Face의 출시 글은 이 표의 48개 벤치마크 중 32개에서 1위라고 집계했고, 직원들은 비공식 테스트에서 적어도 Qwen3.8-27B와 비슷하다고 평가했습니다.

이 크기를 가능하게 하는 것은 루프입니다. 가운데 12개 층을 세 번 실행하면 24개 층의 가중치로 48개 층의 연산을 얻습니다. 체크포인트는 약 20GB에 머물지만 각 토큰에는 약 54억 개 파라미터만큼의 연산이 들어갑니다. 연구소 표에 따르면 bash만 쓰는 SWE-bench Verified에서 79.2%(Qwen3.8-27B는 77.8%), SWE-bench Pro v2 고난도 세트에서 77.9%(73.8%), MCP Atlas에서 82.7%(77.3%)입니다. 비전에서는 OmniDocBench v1.6에서 92.8%, ScreenSpot Pro에서 76.5%를 기록했고 Qwen은 각각 91.5%와 57.6%입니다.

모든 항목에서 이기지는 않습니다. Terminal Bench v2.1(73.0% 대 71.6%), AutomationBench-AA(48.2% 대 41.8%), MMMU Pro(76.3% 대 74.9%)에서는 Qwen3.8-27B가 앞서고, Terminal Bench v4.0에서는 둘 다 5.6%입니다. AA-Omniscience 비환각률은 63.4%로 Qwen의 71.4%보다 낮으며, 모델 카드는 Inkling 2 Small과의 격차가 사실 회상에서 가장 크다고 밝힙니다.

주의할 점: 연구소가 직접 쓴 한계 항목은 에이전트 사용에 대한 경고문처럼 읽힙니다. 진전 없이 긴 추론을 반복할 수 있고, 확인 없이 파일을 지우거나 덮어쓸 수 있으며, 자신이 한 일을 잘못 보고할 수 있고, 가장 낮은 추론 강도에서도 추론이 완전히 꺼지지 않는다고 적혀 있습니다. 연구소는 출력 토큰과 에이전트 턴 수에 상한을 두고 도구를 샌드박스에서 실행하라고 권합니다. 루프형 모델에 대한 로컬 런타임 지원은 이제 막 시작돼 속도는 엔진에 따라 다르고, 세 번의 통과 때문에 토큰당 연산량은 활성 파라미터 34억 개가 시사하는 것보다 많습니다.

결론: 32GB Mac이나 워크스테이션 GPU 한 장에 올릴 오픈 모델 하나를 고르는 팀이라면 이제 비교할 짝은 이 모델과 Qwen3.8-27B입니다. 코딩 에이전트, 문서, 화면 읽기에서는 Inkling 2 Mini가 근소하게 앞서고 사실 회상에서는 Qwen이 앞서며, 더 큰 모델을 내려받을 수 없는 연구소에서 나온 것은 Inkling뿐입니다.

제 역할을 하는 곳

  • 32GB 이상 Apple silicon MacBook을 쓰는 1인 개발자

    코드를 API로 보내지 않고 로컬에서 코딩 에이전트 실행

    `ollama run inkling-2-mini`로 20GB 빌드를 받으며, Ollama는 이를 Claude Code, OpenCode, Hermes Agent용으로 제공합니다. 연구소 권고대로 에이전트 턴 수를 제한하고 작업 사본은 버전 관리 아래에 두십시오.

  • 스캔된 보험금 청구를 처리하는 보험사 운영팀

    사내 하드웨어에서 PDF와 스크린샷의 항목 추출

    OmniDocBench v1.6의 92.8%는 연구소 표에서 1위입니다. 32GB GPU 한 장에서 vLLM이나 SGLang으로 서빙하면 문서가 회사 밖으로 나가지 않고 페이지당 요금도 없습니다.

  • 중견 소프트웨어 회사의 ML 팀

    사내 티켓으로 소형 비전 모델을 조정하고 가중치를 직접 보유

    Tinker에서 64K 컨텍스트 기준 100만 토큰당 $0.75로 LoRA 어댑터를 학습하거나 자체 GPU에서 Unsloth, Miles, SkyRL을 쓰고, 결과물을 Apache 2.0 그대로 로컬에서 서빙합니다.

도입 전 확인할 점

설정
Hugging Face에서 내려받거나 `ollama run inkling-2-mini`를 실행합니다. llama.cpp 사용자는 `llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL`로 ggml-org GGUF를 서빙할 수 있습니다. vLLM, SGLang, TokenSpeed, MLX, Transformers용 레시피가 있습니다.
연동
Transformers, vLLM, SGLang, TokenSpeed, NVIDIA Dynamo, llama.cpp와 Llama App, Ollama, Exo, Unsloth. 사후 학습은 Miles와 SkyRL. 호스팅 파인튜닝과 샘플링은 Tinker API.
데이터와 개인정보
Apache 2.0 가중치는 전부 자체 하드웨어에서 돌아가므로 Tinker를 쓰지 않는 한 데이터가 밖으로 나가지 않습니다. 학습 데이터에는 공개 웹 콘텐츠, 제3자 데이터, 합성 데이터가 포함됩니다. 학습 데이터 기준일은 공개되지 않았습니다.
대규모 사용 시 비용
자체 호스팅 시 인스턴스마다 32GB GPU, DGX Spark 또는 Mac 한 대가 필요합니다. Tinker에서는 월 입력 10억 토큰, 출력 1억 토큰이 정가 기준 약 $200입니다.
제한
컨텍스트 100만 토큰. 이미지는 한 변 40~4,096픽셀이 이상적. 출력은 텍스트만. IQ4_NL GGUF는 BF16과 최상위 토큰이 95.5% 일치하고 Q8_0은 97.6%입니다. 영어 외 언어에서는 품질이 떨어집니다.

좋은 점

  • Apache 2.0, 공식 체크포인트 20GB, GGUF 빌드는 17.6GB부터
  • 연구소 표에서 AA Index v5.0 20.1로 Qwen3.8-27B와 동점
  • 모델 카드 기준 SWE-bench Verified 79.2%, MCP Atlas 82.7%
  • 텍스트와 이미지 입력, 최대 100만 토큰 컨텍스트
  • llama.cpp, Ollama, vLLM, SGLang, MLX, Transformers가 출시 첫날부터 지원

아쉬운 점

  • 모든 벤치마크 수치가 Thinking Machines 자체 발표
  • 에이전트 사용 시 추론 루프와 확인 없는 파괴적 작업을 연구소가 직접 경고
  • 비환각률 63.4%로 Qwen3.8-27B의 71.4%보다 낮음
  • 토큰당 세 번 통과로 활성 3.4B에서 예상되는 것보다 실행이 무거움

추천 대상

Mac 한 대나 워크스테이션 GPU 한 장에서 돌아가는 관대한 라이선스의 코드, 문서, 화면 읽기용 모델을 원하는 개발자와 소규모 팀.

Inkling 2 Mini 대안

Inkling 2 Mini: 자주 묻는 질문

Inkling 2 Mini, 쓸 만한 가치가 있습니까?
Inkling 2 Mini는 Inkling 2 Small을 묶어 둔 Thinking Machines가 내놓았어야 할 오픈 모델로, 노트북에서 돌아가는 20GB 다운로드이면서 Qwen3.8-27B와 대등합니다. 평점은 5점 만점에 4.3점입니다.
Inkling 2 Mini의 가격은 얼마입니까?
가중치는 Apache 2.0으로 무료. Tinker: 입력 100만 토큰당 $0.15(캐시 $0.015), 출력 100만 토큰당 $0.50. 학습은 64K 컨텍스트에서 100만 토큰당 $0.75, 256K에서 $1.50.
Inkling 2 Mini의 단점은 무엇입니까?
모든 벤치마크 수치가 Thinking Machines 자체 발표; 에이전트 사용 시 추론 루프와 확인 없는 파괴적 작업을 연구소가 직접 경고; 비환각률 63.4%로 Qwen3.8-27B의 71.4%보다 낮음; 토큰당 세 번 통과로 활성 3.4B에서 예상되는 것보다 실행이 무거움.
Inkling 2 Mini에 적합한 사람은 누구입니까?
Mac 한 대나 워크스테이션 GPU 한 장에서 돌아가는 관대한 라이선스의 코드, 문서, 화면 읽기용 모델을 원하는 개발자와 소규모 팀.
팀이나 프로덕션 환경에서 Inkling 2 Mini의 비용은 얼마입니까?
자체 호스팅 시 인스턴스마다 32GB GPU, DGX Spark 또는 Mac 한 대가 필요합니다. Tinker에서는 월 입력 10억 토큰, 출력 1억 토큰이 정가 기준 약 $200입니다.
Inkling 2 Mini에 회사 데이터를 맡겨도 안전합니까?
Apache 2.0 가중치는 전부 자체 하드웨어에서 돌아가므로 Tinker를 쓰지 않는 한 데이터가 밖으로 나가지 않습니다. 학습 데이터에는 공개 웹 콘텐츠, 제3자 데이터, 합성 데이터가 포함됩니다. 학습 데이터 기준일은 공개되지 않았습니다.
Inkling 2 Mini의 가장 좋은 대안은 무엇입니까?
저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3.8-27B, Gemma 4, Inkling 2 Small, Inkling 및 Nemotron 3.5 Super VL입니다.

답변 확인일: 2026년 11월 21일.

Inkling 2 Mini 개발사입니까? 이 평점을 사이트에 표시하십시오ReviewRamble 평점: Inkling 2 Mini, 5점 만점에 4.3점