SenseNova-Loop-9B-Preview의 개요
SenseNova-Loop-9B-Preview는 SenseTime SenseNova 팀의 오픈 멀티모달 모델입니다. 2026년 10월 30일 Apache 2.0으로 공개됐습니다. 텍스트와 이미지를 읽고 텍스트를 쓰며, 문서, 코드, 스프레드시트, 슬라이드, 도구 호출 같은 긴 컨텍스트 에이전트 작업을 겨냥합니다.
가장 큰 특징은 루프형 디코더입니다. 모델은 디코더 레이어 32개를 저장하지만, 4번에서 27번 레이어는 같은 가중치로 연달아 두 번 실행됩니다. 그래서 토큰 하나가 레이어 연산 56회를 거칩니다. SenseTime은 이를 저장된 파라미터 약 90억 개가 약 146억 개 분량의 일을 하는 것이라고 설명합니다. 루프 안에서는 두 개의 병렬 residual stream이 학습된 제약 매핑(manifold-constrained hyper-connections, mHC)으로 섞이고, 어텐션은 선형 어텐션 레이어 세 개와 전체 어텐션 레이어 하나가 번갈아 나옵니다.
최대 262,144토큰 길이의 시퀀스로 학습했고, 더 빠른 디코딩을 위해 multi-token prediction을 지원합니다. 기술 보고서는 "TBD"로 표시돼 있고, Transformers 구현의 공개 세부 사항도 아직 발표되지 않았습니다.
SenseNova-Loop-9B-Preview, 쓸 만한 가치가 있습니까?
SenseNova-Loop-9B-Preview의 출시 차트는 9B 모델치고 강력하지만 시험 범위는 좁습니다. 벤치마크 여덟 개 모 두에서 Qwen3.5-9B를 앞서고, 격차가 큰 경우가 많습니다. WorkBuddy Bench에서 66.89 대 41.63, AIDABench에서 58.87 대 40.78, AutomationBench에서 13.72 대 1.05입니다. 더 큰 Qwen3.5-27B도 여덟 개 중 여섯 개에서 앞섭니다. 여덟 개는 모두 에이전트, 오피스, 데이터베이스 작업입니다. 그중 70.70을 기록한 RaccoonPPTBench는 SenseTime 내부의 슬라이드 생성 테스트입니다. 모델이 이미지를 읽는데도 비전, 지식, 추론 벤치마크는 없고, 독립 결과도 아직 없습니다.
차트에는 약한 곳도 있습니다. Terminal Bench 2.1에서 40.45는 Qwen3.5-35B-A3B, Qwen3.6-35B-A3B와 같은 수준에 그치고, 47.19인 Qwen3.5-27B와 49.44인 3B 모델 Nanbeige4.2에 뒤집니다. τ³-Banking에서는 Qwen3.5-27B가 19.59 대 18.56으로 앞섭니다.
주목할 이유는 루프 설계입니다. 4번에서 27번 레이어를 두 번 실행하면 레이어 32개만 저장하면서 더 큰 모델의 깊이를 얻습니다. 하지만 연산량은 줄지 않습니다. 토큰마다 여전히 레이어 패스 56회가 들며, SenseTime 자신의 설명으로도 대략 14.6B 모델의 작업량입니다. 절약되는 것은 가중치 메모리이지 속도가 아닙니다.
실제로는 그 절약도 아직 보이지 않습니다. Hugging Face 저장소는 샤드 아홉 개에 38.1 GB를 담고 있고, 메타데이터에는 파라미터 94.1억 개가 FP32로 저장돼 있다고 나옵니다. 반면 카드는 BF16 백본이라고 설명합니다. 서빙 예제는 모두 GPU 네 장에 텐서 병렬을 씁니다. vLLM과 SGLang 지원은 병합되지 않은 pull request에 있습니다. 각 레이어를 한 번만 실행하는 표준 런타임은 다른 네트워크를 계산하게 되므로, 커뮤니티 양자화는 주의가 필요합니다. 프리뷰라는 꼬리표가 붙을 만합니다.
제 역할을 하는 곳
효율적 아키텍처를 연구하는 대학 연구실의 ML 연구자
가중치 공유 루프가 파라미터와 깊이를 어떻게 맞바꾸는지 연구
Transformers 5.18.0에서 trust_remote_code로 체크포인트를 불러와 루프 설정을 살펴봅니다. 설정은 4번에서 27번 레이어를 2회 반복되는 블록으로 정의합니다. SenseTime의 torchtitan 포크에는 단일 노드 8-GPU 실행용 SFT, DPO, MTP 학습 레시피가 들어 있습니다.
슬라이드 덱과 스프레드시트 분석을 자동화하는 컨설팅사의 AI 플랫폼 팀
더 큰 모델을 도입하기 전에 오피스 에이전트 작업용 소형 오픈 모델 시험
카드에 나온 대로 GPU 네 장에서 LightLLM으로 서빙한 뒤, 자체 작업에서 Qwen3.5-27B와 비교합니다. WorkBuddy 66.89와 RaccoonPPTBench 70.70은 SenseTime의 수치이며, 후자는 내부 테스트입니다.
50명 규모 소프트웨어 회사의 자체 호스팅 엔지니어
워크스테이션 GPU 한 장에서 로컬 멀티모달 에이전트 모델 실행
지금은 기다리는 편이 낫습니다. 공식 가중치는 38.1 GB이고, 카드의 예제는 GPU 네 장에 걸친 텐서 병렬을 쓰며, SenseTime의 양자화 빌드는 없습니다. 커뮤니티 양자화는 같은 모델을 계산하려면 루 프와 라우팅 연산자를 그대로 유지해야 합니다.
도입 전 확인할 점
- 설정
- transformers 5.18.0과 CUDA 13.0 기반 PyTorch 2.11.0을 설치한 뒤 AutoModelForCausalLM과 trust_remote_code로 불러옵니다. 모델 코드는 저장소에 들어 있습니다. 서빙하려면 pull request 64832로 vLLM을, pull request 47281로 SGLang을 빌드하거나 LightLLM Docker 이미지를 씁니다.
- 연동
- LightLLM, vLLM, SGLang의 OpenAI 호환 채팅 엔드포인트. enable_thinking으로 켜고 끄는 thinking 모드. 현재는 MTP 추측 디코딩을 지원하며, DSpark와 DFlash2 draft model은 아직 학습 중입니다. 가중치는 ModelScope에도 미러링돼 있습니다.
- 데이터와 개인정보
- 사용 제한 없는 Apache 2.0이며 자체 호스팅만 가능합니다. 불러올 때 원격 코드가 필요하므로 SenseTime의 Python이 사용자 기기에서 실행됩니다. 긴 시퀀스 멀티모달 및 도구 궤적 레시피 외에는 학습 데이터에 대한 설명이 없습니다.
- 대규모 사용 시 비용
- 38.1 GB 체크포인트와 모든 서빙 예제의 4-way 텐서 병렬을 보면 단일 카드가 아니라 다중 GPU 서버용입니다. 토큰마다 레이어 패스 56회가 들어 토큰당 연산량은 9B 모델보다 14.6B 모델에 가깝습니다.
- 제한
- 기술 보고서가 없는 프리뷰 릴리스입니다. 설정은 학습 길이인 262,144 위치까지 허용합니다. 지원 언어는 영어와 중국어로 나와 있습니다. 각 레이어를 한 번만 실행하는 런타임은 다른 네트워크를 계산하므로, 양자화하거나 이식한 빌드는 루프를 재현해야 합니다.
좋은 점
- 출시 벤치마크 여덟 개 모두에서 Qwen3.5-9B를 앞섬(자체 보고)
- WorkBuddy Bench 66.89, AIDABench 58.87로 Qwen3.5-27B보다 높음
- 루프 설계로 저장 레이어 32개에서 레이어 패스 56회
- Apache 2.0, 파인튜닝 및 draft model 학습 스크립트 제공
아쉬운 점
- 기술 보고서가 없고 비전, 지식, 추론 벤치마크도 없음
- 벤치마크 여덟 개 중 하나는 SenseTime 내부 테스트
- 38.1 GB 체크포인트가 대부분 FP32로 저장돼 있고 예제는 GPU 네 장 사용
- vLLM과 SGLang 지원이 병 합되지 않은 pull request에만 있음
추천 대상
루프형 및 가중치 공유 아키텍처를 연구하거나 오피스 에이전트 작업용 소형 오픈 모델을 평가하며, 프리뷰 수준의 도구를 감수할 수 있는 연구 팀.
SenseNova-Loop-9B-Preview 대안
SenseNova-Loop-9B-Preview: 자주 묻는 질문
- SenseNova-Loop-9B-Preview, 쓸 만한 가치가 있습니 까?
- SenseNova-Loop-9B-Preview는 크기에 비해 훨씬 높은 에이전트 점수를 냅니다. 하지만 기술 보고서가 없는 프리뷰이고, 다운로드 용량은 38 GB이며, 서빙 지원은 아직 병합되지 않은 브랜치에 있습니다. 평점은 5점 만점에 3.5점입니다.
- SenseNova-Loop-9B-Preview의 가격은 얼마입니까?
- Apache 2.0으로 무료입니다. 이 모델의 호스팅 API는 나와 있지 않습니다.
- SenseNova-Loop-9B-Preview의 단점은 무엇입니까?
- 기술 보고서가 없고 비전, 지식, 추론 벤치마크도 없음; 벤치마크 여덟 개 중 하나는 SenseTime 내부 테스트; 38.1 GB 체크포인트가 대부분 FP32로 저장돼 있고 예제는 GPU 네 장 사용; vLLM과 SGLang 지원이 병합되지 않은 pull request에만 있음.
- SenseNova-Loop-9B-Preview에 적합한 사람은 누구입니까?
- 루프형 및 가중치 공유 아키텍처를 연구하거나 오피스 에이전트 작업용 소형 오픈 모델을 평가하며, 프리뷰 수준의 도구를 감수할 수 있는 연구 팀.
- 팀이나 프로덕션 환경에서 SenseNova-Loop-9B-Preview의 비용은 얼마입니까?
- 38.1 GB 체크포인트와 모든 서빙 예제의 4-way 텐서 병렬을 보면 단일 카드가 아니라 다중 GPU 서버용입니다. 토큰마다 레이어 패스 56회가 들어 토큰당 연산량은 9B 모델보다 14.6B 모델에 가깝습니다.
- SenseNova-Loop-9B-Preview에 회사 데이터를 맡겨도 안전합니까?
- 사용 제한 없는 Apache 2.0이며 자체 호스팅만 가능합니다. 불러올 때 원격 코드가 필요하므로 SenseTime의 Python이 사용자 기기에서 실행됩니다. 긴 시퀀스 멀티모달 및 도구 궤적 레시피 외에는 학습 데이터에 대한 설명이 없습니다.
- SenseNova-Loop-9B-Preview의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 ZDTaichu5.0-9B, Qwen3.8-27B, MiniCPM-V 4.7 (35B-A3B and 1B) 및 Nanbeige4.3-33B입니다.
답변 확인일: 2026년 11월 2일.