Strata의 개요
Strata는 몇 개의 큰 전문가 혼합 모델을 중심으로 만든 로컬 추론 엔진입니다. Qwen3.8-Flash-Next(파라미터 125B에 활성 6B, 그리고 51B n-gram 임베딩), Qwen3.6-35B-A3B, DeepSeek V4.1-Flash입니다. 모델 전체를 그래픽 메모리에 두는 대신, 가장 많이 쓰는 전문가는 GPU에 두고, 모든 전문가를 시스템 RAM에 두어 GPU에 없는 것은 CPU가 계산하며, 모델의 28.8 GB n-gram 표는 토큰마다 몇 행씩 SSD에서 읽습니다. 모델 자체의 다중 토큰 예측 레이어가 토큰을 미리 초안합니다.
Windows, Linux, macOS용 데스크톱 앱과 터미널 도구(`strata launch`)로 배포되며, localhost에서 OpenAI 및 Anthropic 호환 API를 제공하고, 코딩 에이전트와 이미지 입력을 포함합니다. 지원 하드웨어는 NVIDIA RTX 20에서 50 시리즈, 최근 AMD Radeon 카드부터 Linux의 Intel Arc, Apple 실리콘, Ryzen AI Max, 그리고 0.2.7.1부터 NVIDIA DGX Spark까지입니다.
저장소는 2026년 9월 24일에 만들어졌고, MIT 라이선스이며, llama.cpp ggml의 일부 위에 만들어졌고, 거의 전부가 개발자 한 명 Niko1221의 작업으로 커밋 3,594개 대 다음 기여자 29개입니다.
Strata, 쓸 만한 가치가 있습니까?
Strata는 프런티어급 오픈 모델을 게이밍 PC에서 실용적으로 만들지만, "어떤 소비자 하드웨어든"이라는 말은 과장입니다. Qwen3.8-Flash-Next의 ISTA-DASLab 묶음은 RAM과 VRAM을 합쳐 37.6 GB(Q2_0)에서 54.8 GB(IQ3_S)가 필요하고, 문서는 RAM이 전문가에 약 10 GB를 더한 만큼을 감당해야 한다고 말하므로, 현실적인 하한은 64 GB 기기입니다. 그 기기에서 수치는 놀랍습니다. Ryzen 5 7600과 RTX 5070 12 GB에서 잰 프로젝트 자체 측정은 Q2_0으로 4K 컨텍스트에서 초당 출력 93토큰, 품질이 높은 IQ3_S로 53토큰을 보여 줍니다.
그 수치는 자체 보고이지만 이례적으로 잘 문서화돼 있고, 외부 사람들도 자기 결과를 더했습니다. Radeon RX 9070 16 GB에서의 커뮤니티 보고는 4K에서 IQ3_XXS 디코드 초당 58.7토큰을 쟀고, 130K에서도 58 가까이 유지했습니다. 모든 보고가 좋은 것은 아닙니다. 여전히 열려 있는 이슈 #2464는 0.2.0 베타에서 V100의 Qwen3.6-35B-A3B 디코드가 114K 컨텍스트에서 초당 109토큰에서 14.6토큰으로 떨어졌으며, 보고자는 llama.cpp가 약 90을 유지했다고 말합니다. 긴 프롬프트도 시간이 걸립니다. 32K 토큰이면 첫 단어가 약 25초 뒤에 나옵니다.
안전 문서는 대부분의 상용 앱보다 낫습니다. 코드가 만드는 모든 네트워크 연결을 나열하고, 텔레메트리가 없다고 밝히고, 서버를 127.0.0.1에 바인딩하며, API 키 없이는 다른 기기와 공유하기를 거부하고, 업데이트는 Ed25519 서명 피드로, 모델 파일은 고정된 SHA-256 해시로 확인합니다. 빈틈도 밝힙니다. Windows 설치 프로그램은 코드 서명이 없고, 외부 모델 서비스 키는 사용자 전용 파일에 암호화되지 않은 채 있으며, 순수 엔진 서버는 키 없이 네트워크에 열면 경고만 합니다.
진짜 위험은 프로젝트의 모양입니다. 개발자 한 명이 약 5주 만에 거의 전부를 썼고, 열린 이슈가 507개이며, 릴리스는 GPU별 스위치의 긴 목록과 함께 며칠마다 나옵니다. llama.cpp는 훨씬 많은 모델과 하드웨어를 탄탄한 관리자층과 함께 지원하고, 순수 C로 된 Colibri도 전문가 혼합 가중치를 디스크에서 스트리밍합니다. Strata의 이점은 몇 안 되는 모델에 대한 깊이이며, 그래서 Qwen3.8-Flash-Next와 DeepSeek V4.1-Flash가 사용자에게 쓸모 있는 만큼만 쓸모가 있습니다.
제 역할을 하는 곳
RTX 3060이나 5070과 64 GB RAM을 가진 개발자
Claude Code나 OpenCode용 큰 코딩 모델을 로컬에서 돌리기
앱을 설치하거나 `strata launch`를 실행하고, Q2_0이나 IQ2_XS를 고른 뒤 `strata connect`가 에이전트용 설정을 출력합니다. 프로젝트는 짧은 컨텍스트에서 RTX 5070의 초당 79에서 93토큰을 잽니다. 비용은 하드웨어와 약 40 GB의 모델 파일입니다.
사무실을 떠나면 안 되는 고객 코드를 다루는 10인 컨설팅 회사
워크스테이션 한 대로 직원들에게 공유 비공개 도우미 주기
24 GB 카드가 있는 PC 한 대에서 Strata를 돌리고 Share with other devices를 켭니다. 이 기능은 API 키 없이는 시작하지 않고 채팅 엔드포인트만 노출합니다. 동시 채팅은 GPU 하나의 처리량을 나눠 쓰며, 프로젝트의 DGX Spark 테스트에서 여러 채팅이 대체로 단일 채팅의 속도를 나눠 가졌습니다.
DGX Spark나 128 GB Ryzen AI Max 기기를 가진 취미 사용자
서버 랙 없이 DeepSeek V4.1-Flash 써 보기
257 GB를 내려받는 2.00 bpw 세트를 고르고 NVMe 드 라이브에 약 265 GB를 비워 둡니다. 프로젝트는 Strix Halo에서 코드 기준 초당 19에서 21토큰을 보고하며, 12 GB NVIDIA 카드에서는 토큰마다 대부분 SSD를 기다리므로 4에서 11입니다.
도입 전 확인할 점
- 설정
- GitHub Releases의 Windows, Linux, macOS용 데스크톱 설치 프로그램, 또는 한 줄짜리 셸이나 PowerShell 스크립트 뒤 `strata launch`를 씁니다. 첫 답변까지의 시간 대부분은 모델 다운로드(Qwen3.8-Flash-Next는 약 37에서 55 GB)입니다.
- 연동
- localhost의 OpenAI 및 Anthropic 호환 API. `strata connect`가 Claude Code, Codex CLI, OpenCode, Hermes Agent, OpenClaw 등의 설정을 출력합니다. CUDA, HIP, SYCL, Metal 빌드와 Docker, 소스 설치.
- 데이터와 개인정보
- 코드가 만드는 모든 연결을 나열하는 안전 페이지에 따르면 텔레메트리는 없습니다. 서버는 127.0.0.1에 바인딩하고, 공유에는 API 키가 필요합니다. 업데이트는 Ed25519로 서명되고 모델 파일은 고정된 SHA-256 해시로 확인되며, 외부 서비스 키는 암호화되지 않은 채 저장됩니다. Strata는 MIT이고 Qwen3.8-Flash-Next는 Qwen Community License 1.0을 따릅니다.
- 대규모 사용 시 비용
- 유료 에디션은 없고 프로젝트는 기부를 받습니 다. 비용은 Qwen3.8-Flash-Next용 12 GB 이상 그래픽 카드와 약 64 GB RAM을 갖춘 PC, 그리고 DeepSeek V4.1-Flash용 약 265 GB의 여유 NVMe 공간입니다.
- 제한
- 열린 이슈 507개와 며칠마다의 릴리스. 모델 계열이 몇 개뿐. DeepSeek은 8K 컨텍스트로 돔. 오래된 GPU의 긴 컨텍스트 디코드에 열린 회귀가 있음(이슈 #2464). 캐시된 전문가가 바뀌므로 실행마다 속도가 다름.
좋은 점
- 64 GB RAM과 12 GB GPU로 Qwen3.8-Flash-Next 실행
- 저자와 커뮤니티의 상세하고 재현 가능한 속도 보고
- 텔레메트리 없음, 기본 localhost, 서명된 업데이트와 고정된 모델 해시
- Claude Code, Codex, OpenCode용 OpenAI 및 Anthropic 호환 API
아쉬운 점
- 아무 하드웨어나 된다는 홍보와 달리 RAM과 VRAM 합쳐 약 40에서 55 GB 필요
- 거의 전부 개발자 한 명, 열린 이슈 507개
- 지원 모델 계열이 몇 개뿐
- Windows 설치 프로그램 코드 서명 없음
추천 대상
12에서 24 GB 그래픽 카드와 64 GB 이상의 RAM을 가지고 자기 기기에서 코딩 에이전트용 큰 오픈 모델을 원하는 사람.
Strata 대안
Strata: 자주 묻는 질문
- Strata, 쓸 만한 가치가 있습니까?
- 12 GB 그래픽 카드로 125B 파라미터 모델을 돌리는 정말 영리한 방법입니다. 단, 64 GB RAM이 있어야 하고 매주 바뀌는 1인 프로젝트를 감수할 수 있어야 합니다. 평점은 5점 만점에 4.0점입니다.
- Strata의 가격은 얼마입니까?
- MIT 라이선스의 무료 오픈소스이며 기부로 운영됩니다. 모델 파일은 각자의 라이선스를 따릅니다(Qwen3.8-Flash-Next는 Qwen Community License 1.0).
- Strata의 단점은 무엇입니까?
- 아무 하드웨어나 된다는 홍보와 달리 RAM과 VRAM 합쳐 약 40에서 55 GB 필요; 거의 전부 개발자 한 명, 열린 이슈 507개; 지원 모델 계열이 몇 개뿐; Windows 설치 프로그램 코드 서명 없음.
- Strata에 적합한 사람은 누구입니까?
- 12에서 24 GB 그래픽 카드와 64 GB 이상의 RAM을 가지고 자기 기기에서 코딩 에이전트용 큰 오픈 모델을 원하는 사람.
- 팀이나 프로덕션 환경에서 Strata의 비용은 얼마입니까?
- 유료 에디션은 없고 프로젝트는 기부를 받습니다. 비용은 Qwen3.8-Flash-Next용 12 GB 이상 그래픽 카드와 약 64 GB RAM을 갖춘 PC, 그리고 DeepSeek V4.1-Flash용 약 265 GB의 여유 NVMe 공간입니다.
- Strata에 회사 데이터를 맡겨도 안전합니까?
- 코드가 만드는 모든 연결을 나열하는 안전 페이지에 따르면 텔레메트리는 없습니다. 서버는 127.0.0.1에 바인딩하고, 공유에는 API 키가 필요합니다. 업데이트는 Ed25519로 서명되고 모델 파일은 고정된 SHA-256 해시로 확인되며, 외부 서비스 키는 암호화되지 않은 채 저장됩니다. Strata는 MIT이고 Qwen3.8-Flash-Next는 Qwen Community License 1.0을 따릅니다.
- Strata의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 llama.cpp, colibri 및 Ollama입니다.
답변 확인일: 2026년 10월 28일.
Strata 개발사입니까? 이 평점을 사이트에 표시하십시오
