Honcho의 개요
Honcho는 Plastic Labs가 만든 기억 서버로, 세션에 참여하는 사용자, 에이전트, 그룹, 프로젝트 같은 peer를 중심으로 설계됐습니다. 세션에 메시지를 저장하면 deriver라는 백그라운드 작업이 이를 읽고 각 peer에 대한 결론을 씁니다. 명시된 사실과 추론한 사실을 모두 포함하며, 별도의 dreaming 작업이 나중에 이를 통합합니다. 이후 프롬프트에 바로 넣을 컨텍스트를 받거나, BM25와 벡터 하이브리드 검색을 하거나, Honcho의 결론을 바탕으로 추론하는 채팅 엔드포인트에 자연어로 질문할 수 있습니다.
결론은 관찰하는 peer와 관찰되는 peer의 쌍으로 구분된 컬렉션에 임베딩된 문서로 저장됩니다. 그래서 각 peer의 자기 모습뿐 아니라 한 에이전트가 다른 에이전트에 대해 아는 내용도 보관할 수 있습니다. 저장소는 기본적으로 pgvector가 포함된 PostgreSQL이며 turbopuffer, LanceDB, Qdrant도 쓸 수 있습니다.
FastAPI 서버는 AGPL-3.0이며 Docker Compose나 honcho start 명령으로 자체 호스팅할 수 있습니다. Plastic Labs는 api.honcho.dev에서 관리형 서비스도 운영합니다.
Honcho, 쓸 만한 가치가 있습니까?
Honcho는 대부분의 기억 계층과 다른 질문에 답합니다. Mem0와 Zep은 질의에 맞는 사실을 돌려주지만, Honcho는 각 참여자에 대한 모델을 계속 유지하고 예컨대 한 학생이 어떤 학습 방식에 가장 잘 반응하는지 같은 질문에 문장으로 답합니다. 지식 검색보다는 튜터, 컴패니언, 지원 에이전트에 어울립니다.
처리는 쓰기 이후에 일어납니다. 메시지는 즉시 저장된 뒤 deriver 대기열에 들어가고, deriver가 LLM(기본값 gpt-5.4-mini)으로 결론을 추출하며, 이후 dreaming 단계가 이를 통합합 니다. README는 새 메시지가 채팅 답변에 반영되기까지 잠시 걸린다고 경고합니다. 직전 턴의 사실이 필요한 에이전트는 아직 실행되지 않은 추론에 기대지 말고 저장된 세션을 읽어야 합니다.
Plastic Labs는 LongMemEval S 90.4%, LoCoMo 89.9%를 보고합니다. 대화 전체를 컨텍스트에 넣은 Claude Haiku 4.5는 각각 62.6%와 75.6%였고, Gemini 3 Pro가 답할 때 LongMemEval은 92.6%입니다. 이 실험은 추출에 gemini-2.5-flash-lite, 추론에 claude-haiku-4.5를 썼으며, 회사는 호스팅 서비스가 여러 모델을 쓴다고 밝힙니다. BEAM에서는 점수가 100,000 토큰의 0.630에서 10,000,000 토큰의 0.409로 떨어지는데, 매우 긴 이력에서 이런 시스템이 얼마나 약해지는지 보여 주는 가장 분명한 공개 자료입니다. LoCoMo는 원 논문의 F1 지표가 아니라 LLM 심판으로 채점해 이전에 발표된 점수와 비교할 수 없습니다.
관리형 서비스는 저희가 리뷰하는 기억 계층 가운데 가장 저렴한 호스팅 쓰기 요금으로, 수집 토큰 100만 개당 2.00달러이며 컨텍스트 읽기는 무제한에 약 200 ms가 걸립니다. 채팅 질의는 기본 단계에서 0.01달러, 최고 단계에서 0.50달러입니다. 자체 호스팅 서버는 기본적으로 인증이 꺼져 있고(AUTH_USE_AUTH=false) 네트워크에 노출하기 전에 JWT 시크릿이 필요합니다. 기본 제공 템플릿에서는 텔레메트리와 Sentry가 꺼져 있습니다.
상업 팀에게 주의할 점은 AGPL-3.0입니다. 수정한 Honcho를 네트워크 서비스로 운영하면 변경 사항을 공개해야 합니다. 수정하지 않고 쓰거나 관리형 API를 통해 쓰면 그렇지 않습니다. 프로젝트는 활발하며 2026년 10월 30일에 v3.5.0이 나왔고 GitHub 스타는 약 8,000개입니다.
제 역할을 하는 곳
학생 10,000명에게 AI 튜터를 제공하는 에듀테크 스타트업
학생마다 배우는 방식에 맞춰 설명을 조정하기
수업마다 세션으로 저장하고 다음 수업 전에 peer.chat으로 학생이 어려워하는 부분을 묻습니다. 수집 토큰 100만 개당 2.00달러이므로 한 달에 50,000 토큰을 만드는 학생의 기억 비용은 0.10달러이고, 기본 단계 채팅 질의마다 1센트가 더해집니다.
서로 아는 것이 다른 캐릭터가 나오는 멀티 에이전트 게임을 만드는 개발자
각 캐릭터가 플레이어와 서로에 대해 아는 내용을 분리하기
어떤 peer가 어떤 peer를 관찰할지 설정합니다. Honcho는 관찰자와 피관찰자 쌍마다 컬렉션을 두므로 한 캐릭터는 다른 캐릭터가 본 것을 모를 수 있습니다. Postgres와 LLM 키 하나면 되는 자체 호스팅이 잘 맞습니다.
같은 프로젝트에서 Claude Code, Cursor, Codex를 함께 쓰는 1인 개발자
세 에이전트에 선호와 과거 결정을 공유 기억으로 주기
honcho init이 모든 플러그인에 쓸 키 하나를 기록하고, 각 에이전트가 같은 workspace를 읽습니다. 카드를 등록하면 매월 주는 5달러 크레딧으로 관리형 서비스의 가벼운 개인 사용을 충당할 수 있습니다.
도입 전 확인할 점
- 설정
- uv tool install honcho-cli 후 honcho start --setup을 실행하면 LLM 키 하나로 API, deriver, Postgres, Redis가 Docker에서 실행됩니다. 소스에서 설치하려면 Docker Compose를 쓰거나, Python 3.13 이상, pgvector가 포함된 Postgres, API와 별도 deriver 프로세스를 준비합니다.
- 연동
- Python과 TypeScript SDK, CLI, MCP 서버를 제공하며 Claude Code, Codex, Cursor, OpenCode, Kilo Code, OpenClaw, Hermes용 공식 플러그인이 있습니다. tool calling을 지원하면 OpenRouter, vLLM, Ollama를 포함한 OpenAI 호환 LLM 제공자를 쓸 수 있습니다.
- 데이터와 개인정보
- 자체 호스팅 데이터는 사용자의 Postgres나 선택한 벡터 저장소에 남지만, 메시지 텍스트는 설정한 LLM으로 전송됩니다. 템플릿에서 텔레메트리와 Sentry는 꺼져 있습니다. 관리형 서비스는 조직마다 전용 인스턴스를 제공하며, 보존 기간, 학습 사용 여부, 인증 현황은 사이트에 공개되지 않았습니다.
- 대규모 사용 시 비용
- 관리형은 수집 토큰 100만 개당 2.00달러, 컨텍스트 읽기 무제한, 채팅 질의는 추론 단계에 따라 건당 0.001달러에서 0.50달러입니다. 자체 호스팅은 Postgres에 더해 처리하는 메시지마다 deriver와 dreaming의 LLM 호출 비용이 듭니다.
- 제한
- 추론이 비동기라 결론이 최근 메시지보다 늦습니다. BEAM 점수는 100,000 토큰에서 10,000,000 토큰 사이에 0.630에서 0.409로 떨어집니다. 열린 issue와 pull request는 180개입니다.
좋은 점
- 사실 목록이 아니라 사람과 에이전트 각각의 모델을 구축
- 저희가 리뷰하는 기억 계층 중 가장 저렴한 호스팅 수집(토큰 100만 개당 2.00달러)
- 한 에이전트가 다른 에이전트에 대해 아는 내용을 추적
- 자체 호스팅 시 텔레메트리 기본 꺼짐
아쉬운 점
- AGPL-3.0 때문에 호스팅하는 수정본은 변경 사항 공개 필요
- 백그라운드 추론이 새 메시지보다 늦음
- 자체 호스팅 시 인증이 기본으로 꺼져 있음
- 사이트에 SOC 2나 HIPAA 관련 언급 없음
추천 대상
여러 세션에 걸쳐 개별 사용자를 이해해야 하는 튜터, 컴패니언, 지원 에이전트를 만드는 팀.