Hy-Memory-30B-A3B의 개요
Hy-Memory-30B-A3B는 Tencent Hy(옛 Hunyuan)의 mixture-of-experts 모델입니다. 2026년 10월 15일 Hugging Face에 공개됐고, 기술 보고서가 arXiv에 실렸습니다. 파라미터는 약 300억(30 billion) 개이고 토큰당 활성 파라미터는 30억(3 billion) 개이며, Tencent의 Hy3-A3B 베이스 위에 만들어졌습니다.
채팅 모델이 아닙니다. Mem0, MemOS, Tencent 자체의 Hy-Memory 같은 기억 프레임워크가 대화에서 사실을 뽑아내고, 무엇을 남길지 정하고, 저장된 기억 뱅크를 갱신하려고 호출하는 범용 LLM을 대체합니다. 학습은 두 단계로 진행됐습니다. Tencent의 플래그십 Hy3에서 on-policy 증류를 한 뒤, 모델이 쓰는 기억 청크마다 점수를 매기는 강화학습을 거쳤습니다.
가중치는 Apache 2.0이며, 약 60GB 크기의 BF16 체크포인트 하나로 제공됩니다. Tencent는 출시 공지 글을 내지 않았고 호스팅 API도 없습니다.
Hy-Memory-30B-A3B의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Weights | Free | Apache 2.0, BF16만 제공 |
| Hosted API | Not offered |
Apache 2.0 오픈 웨이트입니다. 호스팅 API는 없습니다.
Hy-Memory-30B-A3B, 쓸 만한 가치가 있습니까?
Hy-Memory-30B-A3B가 겨냥하는 것은 많은 에이전트 개발자가 뒤늦게 알아차리는 비용입니다. Mem0 같은 프레임워크로 보내는 대화 턴마다, 무엇을 기억할지 정하는 일만을 위해 비싼 모델을 한 번 더 호출하게 됩니다. Tencent의 해법은 활성 3B 전문 모델이고, 자체 평가에서는 프런티어 모델과 대등합니다. 기억 프레임워크 네 가지의 평균은 55.49이며, Claude Opus 5는 54.62, DeepSeek V4.1 Flash는 53.64, Qwen3.6-35B-A3B는 50.37입니다.
앞선 폭은 작고 방법에도 한계가 있습니다. Hy-Memory와 MemOS 하네스에서는 Opus와의 차이가 0.1점 미만입니다. 차이는 Mem0(0.6점)과 학습에서 제외한 EverMemOS 하네스(2.8점)에서 생깁니다. 모든 벤치마크는 고정된 20% 하위 표본으로 실행됐고, 개별 지표 몇 가지에서는 여전히 Opus가 이깁니다. Mem0 안의 LoCoMo도 그중 하나입니다(69.47 대 59.54). 쇼핑 선호 테스트에서는 모든 작성 모델이 약 14에서 24 사이에 머뭅니다. 어떤 모델이 쓰든 선호 기억은 여전히 약하다는 뜻입니다.
가장 강한 근거는 전이입니다. EverMemOS는 학습에서 제외됐는데, 이 모델이 그곳에서 받은 최고 점수(56.89)는 특정 프레임워크의 프롬프트가 아니라 작업 자체를 익혔음을 시사합니다. 기억 작성용 프롬프트는 프레임워크마다 크게 다르기 때문에 이 점이 중요합니다.
배포는 연구만큼 다듬어지지 않았습니다. 약 60GB의 BF16 체크포인트가 51개 샤드 로 나뉜 것 하나뿐이고, FP8, GGUF, 양자화 빌드는 없습니다. 그래서 80GB급 GPU 한 장이나 더 작은 GPU 두 장이 필요합니다. 활성 파라미터 3B라는 숫자에서 짐작하는 것보다 훨씬 많은 자원입니다. 기억 작성에 이미 대규모로 프런티어 API 요금을 내는 팀이라면, 이 하드웨어가 전환의 대가입니다.
제 역할을 하는 곳
일일 사용자 50만 명인 컴패니언 앱 스타트업의 백엔드 엔지니어
Mem0 기억 추출에 드는 API 비용 줄이기
Mem0의 LLM을 no-think 모드로 hy-memory를 실행하는 vLLM 서버로 지정합니다. 프런티어 모델로 가던 사용자 턴이 모두 셀프호스팅한 활성 3B 모델에서 처리됩니다. 답변용 모델은 그대로입니다.
프로젝트 기억을 유지하는 코딩 어시스턴트를 만드는 ML 엔지니어
세션을 넘나들며 저장소에 관한 사실 기록하기
Mem0 안에서 Tencent의 Code Memory Bench 점수는 67.13이었고 Opus는 70.74였습니다. 이 영역에서는 조금 뒤지므로, 전환하기 전에 자신의 저장소로 시험해 보십시오.
에이전트 기억 프레임워크를 비교하는 연구자
Mem0, MemOS, EverMemOS에서 작성 모델을 고정하기
GitHub에 공개된 평가 도구는 검색, 프롬프트, 채점 모델을 고정하고 작성 모델만 바꿉니다. 새로운 기억 설계를 위한 재현 가능한 기준선이 됩니다.
도입 전 확인할 점
- 설정
- vLLM(v0.31.0에서 검증)으로 hy-memory라는 이름으로 서빙하고, Tencent의 빠른 시작 안내대로 reasoning_effort를 no_think로 설정해 OpenAI 호환 API를 호출합니다. 그다음 기억 프레임워크의 LLM으로 지정합니다.
- 연동
- Mem0, MemOS, Tencent의 Hy-Memory 프레임워크(채팅, 업무, 코딩 시나리오). EverMemOS로의 전이가 확인됐습니다. 프레임워크 코드와 평가 도구는 GitHub에 있습니다.
- 데이터와 개인정보
- Apache 2.0이며 사용 제한이 없습니다. 셀프호스팅이므로 사용자 기억이 자사 인프라 밖으로 나가지 않습니다. 모든 턴을 호스팅 모델로 보내는 방식과 비교한 주된 개인정보 보호상의 이점입니다.
- 대규모 사용 시 비용
- BF16 가중치가 약 60GB이므로 80GB H100 한 장이나 48GB GPU 두 장이 필요합니다. 더 작은 카드에 맞출 양자화 빌드는 아직 없습니다.
- 제한
- 기억 작성 전용입니다. 영어와 중국어를 지원합니다. 컨텍스트 길이는 모델 카드에 나와 있지 않습니다. 벤치마크 결과는 독립적으로 재현되지 않았습니다.
좋은 점
- Tencent의 네 프레임워크 평균에서 기억 작성 모델로 Claude Opus 5와 대등합니다(55.49 대 54.62)
- 학습에서 제외한 EverMemOS 하네스에서 최고 점수를 받아, 프레임워크 사이에서 전이됩니다
- Mem0와 MemOS 안의 LLM을 그대로 대체할 수 있습니다
- Apache 2.0입니다
아쉬운 점
- 모든 결과가 Tencent의 것이며, 벤치마크의 20% 하위 표본 기준입니다
- 하네스 네 개 중 두 개에서는 Opus보다 앞선 폭이 0.1점 미만입니다
- 60GB BF16 체크포인트 하나뿐이고 양자화 빌드가 없습니다
- 하는 일이 하나뿐이어서 답변용 모델은 따로 필요합니다
추천 대상
Mem0, MemOS 같은 기억 계층을 대량으로 운영하면서, 작성 경로의 유료 프런티어 모델을 셀프호스팅 가중치로 바꾸려는 팀.
Hy-Memory-30B-A3B 대안
Hy-Memory-30B-A3B: 자주 묻는 질문
- Hy-Memory-30B-A3B, 쓸 만한 가치가 있습니까?
- 용도는 좁지만 발상은 타당한 모델입니다. Tencent의 테스트에서는 에이전트 기억을 Claude Opus 5만큼 잘 쓰면서 비용은 일부에 그칩니다. 다만 측정한 곳은 Tencent뿐입니다. 평점은 5점 만점에 3.7점입니다.
- Hy-Memory-30B-A3B의 가격은 얼마입니까?
- Apache 2.0 오픈 웨이트입니다. 호스팅 API는 없습니다.
- Hy-Memory-30B-A3B의 단점은 무엇입니까?
- 모든 결과가 Tencent의 것이며, 벤치마크의 20% 하위 표본 기준입니다; 하네스 네 개 중 두 개에서는 Opus보다 앞선 폭이 0.1점 미만입니다; 60GB BF16 체크포인트 하나뿐이고 양자화 빌드가 없습니다; 하는 일이 하나뿐이어서 답변용 모델은 따로 필요합니다.
- Hy-Memory-30B-A3B에 적합한 사람은 누구입니까?
- Mem0, MemOS 같은 기억 계층을 대량으로 운영하면서, 작성 경로의 유료 프런티어 모델을 셀프호스팅 가중치로 바꾸려는 팀.
- 팀이나 프로덕션 환경에서 Hy-Memory-30B-A3B의 비용은 얼마입니까?
- BF16 가중치가 약 60GB이므로 80GB H100 한 장이나 48GB GPU 두 장이 필요합니다. 더 작은 카드에 맞출 양자화 빌드는 아직 없습니다.
- Hy-Memory-30B-A3B에 회사 데이터를 맡겨도 안전합니까?
- Apache 2.0이며 사용 제한이 없습니다. 셀프호스팅이므로 사용자 기억이 자사 인프라 밖으로 나가지 않습니다. 모든 턴을 호스팅 모델로 보내는 방식과 비교한 주된 개인정보 보호상의 이점입니다.
- Hy-Memory-30B-A3B의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3.8-Flash-Next 및 DeepSeek-V4.1-Flash입니다.
답변 확인일: 2026년 10월 31일.