본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

Inkling

Thinking Machines Lab의 Apache 라이선스 975B 모델은 듣고 봅니다. 파인튜닝 기반으로는 좋지만 시각 성능은 Kimi K2.6에 뒤집니다.

리뷰어: Andrew Miller · 업데이트

Inkling 방문 오픈 소스

평점

3.8/5

Inkling은 눈이 아니라 라이선스와 귀 때문에 고르는 대형 오픈 모델입니다.

Inkling의 개요

Inkling은 Mira Murati의 Thinking Machines Lab이 처음 내놓은 모델로, 2026년 7월 15일 Apache 2.0 전체 가중치와 함께 공개됐습니다. 총 9,750억(975 billion) 파라미터, 토큰당 410억(41 billion) 활성의 mixture-of-experts 모델이며, 텍스트·이미지·오디오·비디오 45조(45 trillion) 토큰으로 사전 학습했습니다. 텍스트, 이미지, 오디오를 하나의 네트워크에서 읽고 텍스트를 출력하며, 최대 100만(1 million) 토큰 컨텍스트를 지원합니다.

연구소는 이 모델을 주로 파인튜닝 서비스 Tinker를 통한 맞춤화의 기반으로 내세우며, Tinker에서는 64K와 256K 컨텍스트로 제공합니다. 더 작은 Inkling-Small(2,760억(276 billion) 파라미터, 120억(12 billion) 활성)이 7월 말에 나왔고, Inkling 2 Small은 2026년 11월 5일 Tinker에 공개됐으며 가중치는 외부 안전성 테스트 후 공개될 예정입니다.

Inkling의 가격은 얼마입니까?

플랜가격포함 내용
WeightsFreeApache 2.0
OpenRouter$1.00 / $4.05 per million tokens입력 / 출력, Together 경유

가중치는 Apache 2.0으로 무료입니다. OpenRouter(Together): 입력 100만 토큰당 $1.00, 출력 100만 토큰당 $4.05, 컨텍스트 524,288토큰. Tinker 가격은 문서 참조.

Inkling, 쓸 만한 가치가 있습니까?

Inkling은 탄탄한 오픈 베이스 모델이지만, 만든 이들 스스로 오픈이든 클로즈드든 가장 강한 모델은 아니라고 말하며 시각 점수도 이를 뒷받침합니다. 연구소 자체 표에서 MMMU Pro는 73.5%로 Moonshot의 Kimi K2.6 79.0%, Gemini 3.1 Pro 82.0%에 못 미치고, CharXiv 추론도 78.1%로 K2.6의 80.4%보다 낮습니다. 게다가 Kimi K2.6은 이미 한 세대 전 모델입니다.

특이한 점은 오디오입니다. Thinking Machines는 이 모델을 가장 강한 오픈 웨이트 오디오 모델 중 하나로 꼽으며, Inkling은 VoiceBench 91.4%, MMAU 77.2%를 기록했습니다. Gemini 3.1 Pro는 94.3%와 82.5%입니다. 스크린샷과 음성 메모를 한 요청에서 함께 읽는 오픈 모델 하나를 원한다면 선택지가 많지 않습니다.

Apache 2.0 라이선스가 또 다른 장점입니다. 매출 상한, 지역 제외, 출력 제한이 없는데, 경쟁 오픈 라이선스 몇몇에는 이런 조건이 있습니다. OpenRouter에서는 입력 100만 토큰당 $1.00, 출력 100만 토큰당 $4.05로 규모에 비해 저렴하며, 지난달 Hugging Face 다운로드는 1,792,792회였습니다.

셀프 호스팅은 데이터센터급 작업입니다. BF16 가중치에는 약 2TB의 GPU 메모리, 즉 B300 8장이나 H200 16장이 필요하고, NVFP4 버전도 600GB, B300 4장이나 H200 8장이 필요합니다. Inkling-Small은 2,760억(276 billion) 파라미터로 비슷한 성능을 내세우며 NVFP4로 B300 한 장에 들어가므로, 대부분의 팀에게 더 현실적인 다운로드입니다.

제 역할을 하는 곳

  • 콜센터 분석 업체

    녹음된 통화와 상담원이 첨부한 스크린샷에 대한 질문에 답하기

    WAV 오디오(16kHz, 가급적 20분 미만)와 이미지를 한 요청으로 OpenRouter에 보냅니다. 입력 100만 토큰당 $1.00이라 비용은 대부분 입력에서 나오며, Apache 2.0이라 업체가 결과를 재판매할 수 있습니다.

  • 리걸테크 기업의 ML 팀

    자체 문서 워크플로로 오픈 모델을 파인튜닝하고 가중치를 보유

    Tinker에서 64K나 256K 컨텍스트로 학습한 뒤 내보내 셀프 호스팅합니다. 전체 모델 실행에는 Blackwell이나 H200 멀티 GPU 노드가 필요해 많은 팀은 Inkling-Small을 파인튜닝할 것입니다.

  • 오픈 멀티모달 모델을 비교하는 연구 그룹

    오디오와 시각을 네이티브로 처리하는 인코더 없는 모델 연구

    전체 가중치, Transformers·SGLang·vLLM·llama.cpp의 출시 당일 지원, 공개된 아키텍처 덕분에 분석하기 쉽습니다. 연구소는 비디오 성능이 평가되지 않았다고 경고합니다.

도입 전 확인할 점

설정
Hugging Face에 BF16과 NVFP4 가중치. SGLang, vLLM(0.26 이상), TokenSpeed, Unsloth, Transformers용 레시피 제공. 빠르게 써 보려면 Tinker Playground.
연동
Transformers, SGLang, vLLM, llama.cpp, Unsloth GGUF 빌드, Tinker API, OpenRouter(Together), Hugging Face Inference Providers.
데이터와 개인정보
Apache 2.0. 셀프 호스팅하면 아무것도 서버 밖으로 나가지 않습니다. 학습 데이터에는 공개 웹 콘텐츠, 제3자 데이터, 합성 데이터가 포함됩니다. OpenRouter 등록 모델은 EU 역내 라우팅으로는 쓸 수 없습니다.
대규모 사용 시 비용
OpenRouter에서 월 입력 10억(1 billion) 토큰과 출력 1억(100 million) 토큰이면 약 $1,405입니다. 셀프 호스팅 시 NVFP4 버전에 B300 4장이나 H200 8장이 필요합니다.
제한
컨텍스트는 OpenRouter 524,288토큰, Tinker 64K 또는 256K, 1M 전체는 셀프 호스팅에서만. 이미지는 한 변 40~4,096픽셀이 이상적. 오디오는 20분 미만이 이상적. 출력은 텍스트만.

좋은 점

  • 사용 제한 없는 Apache 2.0
  • 텍스트, 이미지, 오디오 입력을 하나의 모델로, 1M 토큰 컨텍스트
  • OpenRouter에서 100만 토큰당 $1.00 / $4.05
  • 개발사가 Tinker로 제공하는 파인튜닝 서비스

아쉬운 점

  • MMMU Pro 73.5%로 Kimi K2.6의 79.0%에 못 미침
  • BF16에서 약 2TB, NVFP4에서 600GB의 GPU 메모리
  • 비디오 입력은 있지만 평가되지 않음
  • 더 작은 Inkling-Small이 4분의 1 크기로 비슷한 결과를 내세움

추천 대상

텍스트, 이미지, 오디오를 읽는 관대한 라이선스의 오픈 모델을 원하고, 그대로 쓰기보다 파인튜닝할 계획인 팀.

Inkling 대안

Inkling: 자주 묻는 질문

Inkling, 쓸 만한 가치가 있습니까?
Inkling은 눈이 아니라 라이선스와 귀 때문에 고르는 대형 오픈 모델입니다. 평점은 5점 만점에 3.8점입니다.
Inkling의 가격은 얼마입니까?
가중치는 Apache 2.0으로 무료입니다. OpenRouter(Together): 입력 100만 토큰당 $1.00, 출력 100만 토큰당 $4.05, 컨텍스트 524,288토큰. Tinker 가격은 문서 참조.
Inkling의 단점은 무엇입니까?
MMMU Pro 73.5%로 Kimi K2.6의 79.0%에 못 미침; BF16에서 약 2TB, NVFP4에서 600GB의 GPU 메모리; 비디오 입력은 있지만 평가되지 않음; 더 작은 Inkling-Small이 4분의 1 크기로 비슷한 결과를 내세움.
Inkling에 적합한 사람은 누구입니까?
텍스트, 이미지, 오디오를 읽는 관대한 라이선스의 오픈 모델을 원하고, 그대로 쓰기보다 파인튜닝할 계획인 팀.
팀이나 프로덕션 환경에서 Inkling의 비용은 얼마입니까?
OpenRouter에서 월 입력 10억(1 billion) 토큰과 출력 1억(100 million) 토큰이면 약 $1,405입니다. 셀프 호스팅 시 NVFP4 버전에 B300 4장이나 H200 8장이 필요합니다.
Inkling에 회사 데이터를 맡겨도 안전합니까?
Apache 2.0. 셀프 호스팅하면 아무것도 서버 밖으로 나가지 않습니다. 학습 데이터에는 공개 웹 콘텐츠, 제3자 데이터, 합성 데이터가 포함됩니다. OpenRouter 등록 모델은 EU 역내 라우팅으로는 쓸 수 없습니다.
Inkling의 가장 좋은 대안은 무엇입니까?
저희가 리뷰한 것 중 가장 가까운 대안은 Kimi K3, Nemotron 3.5 Super VL, Gemma 4 및 Qwen3.8-27B입니다.

답변 확인일: 2026년 11월 7일.