본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

Jan

OpenAI 호환 로컬 API와 선택형 클라우드 모델을 갖춘, LLM을 오프라인으로 실행하는 오픈소스 데스크톱 앱입니다.

리뷰어: Sheela · 업데이트

GitHub에서 보기 오픈 소스

평점

4.2/5

계정 없이 쓰는 완전 오픈소스 로컬 모델 데스크톱 앱이 어느새 에이전트로 자랐습니다. 그래서 이제는 겉모습보다 기본값이 더 중요합니다.

Jan의 개요

Jan은 Menlo Research가 만든 데스크톱 앱으로, Windows, macOS, Linux에서 오픈 모델을 내려받아 자기 컴퓨터에서 대화할 수 있게 해 줍니다. 번들된 llama.cpp 엔진으로 모델을 실행하며, 사용자 자신의 키로 OpenAI, Anthropic, Mistral, Groq 같은 클라우드 제공자에도 연결할 수 있습니다.

127.0.0.1:1337에서 OpenAI 호환 API를 제공해 다른 도구가 로컬 모델을 쓸 수 있게 하며, MCP 도구를 지원합니다. 최근 버전에는 샌드박스 셸 도구를 갖춘 Jan 에이전트와, 리서치, 리뷰, 디버깅을 위한 내장 서브에이전트가 추가되었습니다. Menlo는 매개변수 4B인 Jan-nano 같은 소형 모델도 Jan용으로 학습시킵니다.

최신 릴리스는 2026년 10월 20일의 v0.8.7입니다. Intel Mac에서는 로컬 모델이 실행되지 않으며, 이 제약은 v0.8.5부터 이어지고 있습니다.

Jan, 쓸 만한 가치가 있습니까?

Jan은 가입할 것 하나 없이 잘 다듬어진 앱에서 로컬 모델을 쓰고 싶은 개인에게 좋은 선택입니다. GitHub 스타는 약 45,000개이고 릴리스가 잦습니다. v0.8.6이 2026년 10월 9일에, v0.8.7이 11일 뒤에 나왔습니다.

LM Studio와 달리 앱 전체가 Apache 2.0이고, 분석 수집은 옵트인입니다. 개인정보 페이지에 따르면 동의하기 전에는 아무것도 수집하지 않으며, 동의한 뒤에도 무작위 ID에 연결된 활성 사용자 수와 리텐션 수만 수집하고, 이를 EU의 PostHog가 처리합니다. 클라우드 모델로 보낸 대화는 해당 제공자의 약관에 따라 그 제공자에게 갑니다.

제품은 채팅 앱에서 에이전트 쪽으로 옮겨 가고 있습니다. v0.8.7은 내장 서브에이전트와 셸 도구를 끄는 스위치를 추가했는데, 셸 도구는 샌드박스와 모델이 지원하는 곳에서 기본으로 켜져 있습니다. 로컬 API는 localhost에 바인딩되지만 직접 설정하지 않는 한 키가 필요 없고, CORS가 기본으로 켜져 있으며, 문서는 키 없이 0.0.0.0에 바인딩하지 말라고 경고합니다. 이번 릴리스는 v0.8.3이 기본 MCP 목록에 추가했던 호스팅 Exa 검색 서버도 제거했습니다. 로컬 모델에 어떤 도구가 조용히 주어지는지 점검해야 한다는 점을 일깨웁니다.

한계는 하드웨어입니다. README는 Mac 기준으로 3B 모델에 RAM 8 GB, 7B에 16 GB, 13B에 32 GB를 권장하며, Intel Mac은 로컬 모델을 전혀 실행할 수 없습니다. 열린 이슈와 풀 리퀘스트가 614개로 안정되었다기보다 분주한 상태입니다. 그리고 Open WebUI가 서버 한 대로 팀 전체를 지원하는 데 비해, Jan은 여전히 1인용 데스크톱 앱입니다.

제 역할을 하는 곳

  • 32 GB MacBook으로 기밀 고객 파일을 다루는 사무 변호사

    클라우드 제공자에게 보내지 않고 문서를 요약하고 질의하기

    계정 없이, 분석 수집을 끈 채로 Jan에서 7B에서 13B 오픈 모델을 로컬로 실행합니다. 비용은 노트북이며, 대가는 어려운 추론에서 프런티어 클라우드 모델보다 낮은 답변 품질입니다.

  • 신호가 잡히지 않는 기차에서 OpenAI API를 대상으로 프로토타입을 만드는 개발자

    오프라인에서도 OpenAI 방식 엔드포인트를 상대로 계속 코딩하기

    앱이 http://127.0.0.1:1337/v1을 가리키게 하면 Jan이 같은 API 형태로 로컬 모델을 제공합니다. 기본으로 키가 필요 없으므로 네트워크에 노출하기 전에 API 키를 설정합니다.

  • 직원 40명 규모 디자인 스튜디오의 IT 관리자

    좌석당 구독 없이 직원에게 비공개 채팅 도구 제공하기

    Jan은 Microsoft Store, Flathub, 직접 내려받기로 무료 설치할 수 있지만 설치본이 각각 따로여서 중앙 관리, 공유 기록, 정책 제어가 없습니다. 관리형 배포에는 Open WebUI 같은 서버 도구가 더 잘 맞습니다.

도입 전 확인할 점

설정
Windows, macOS, Linux용 설치 파일을 내려받고(Microsoft Store와 Flathub에도 있음), 앱 안에서 Hugging Face의 모델을 고릅니다. 첫 대화까지는 몇 분에 모델 내려받기 시간이 더해집니다.
연동
llama.cpp를 통한 로컬 모델. 사용자 키로 쓰는 OpenAI, Anthropic, Mistral, Groq 등의 클라우드 모델. MCP 서버. 다른 앱을 위한 OpenAI 호환 API.
데이터와 개인정보
Apache 2.0. 분석 수집은 옵트인이며 PostHog EU로 전송되고, 대화와 모델 선택은 포함하지 않습니다. 로컬 대화는 머신에 남고, 클라우드 대화는 제공자에게 갑니다. 로컬 API는 기본으로 키가 필요 없고 CORS가 켜져 있습니다.
대규모 사용 시 비용
유료 등급 없이 무료입니다. 비용은 하드웨어입니다. Menlo는 Mac 기준 7B 모델에 RAM 16 GB, 13B에 32 GB를 권장하며, 클라우드 모델을 쓰면 사용자 자신의 API 비용이 더해집니다.
제한
열린 이슈와 풀 리퀘스트 614개. Intel Mac에서 로컬 모델 미지원. 다중 사용자 기능 없음. 원격 모델의 자동 압축에는 컨텍스트 크기를 직접 설정해야 합니다.

좋은 점

  • 계정이 필요 없는 완전한 오픈소스, Apache 2.0
  • 분석 수집은 옵트인이며 사용량 수치로 한정
  • 포트 1337의 OpenAI 호환 로컬 API
  • 로컬 llama.cpp 모델과 클라우드 API를 함께 사용

아쉬운 점

  • 1인용 데스크톱 앱이며 팀 기능 없음
  • Intel Mac에서는 로컬 모델이 실행되지 않음
  • 에이전트 셸 도구가 기본으로 켜져 있음
  • 로컬 API는 직접 설정하지 않으면 키가 없음

추천 대상

데스크톱 앱에서 오픈 모델을 오프라인으로 실행하고 싶은, 개인정보를 중시하는 개인.

Jan 대안

Jan: 자주 묻는 질문

Jan, 쓸 만한 가치가 있습니까?
계정 없이 쓰는 완전 오픈소스 로컬 모델 데스크톱 앱이 어느새 에이전트로 자랐습니다. 그래서 이제는 겉모습보다 기본값이 더 중요합니다. 평점은 5점 만점에 4.2점입니다.
Jan의 가격은 얼마입니까?
무료 오픈소스(Apache 2.0)입니다. 유료 등급은 없으며, 클라우드 모델은 사용자 자신의 API 키를 씁니다.
Jan의 단점은 무엇입니까?
1인용 데스크톱 앱이며 팀 기능 없음; Intel Mac에서는 로컬 모델이 실행되지 않음; 에이전트 셸 도구가 기본으로 켜져 있음; 로컬 API는 직접 설정하지 않으면 키가 없음.
Jan에 적합한 사람은 누구입니까?
데스크톱 앱에서 오픈 모델을 오프라인으로 실행하고 싶은, 개인정보를 중시하는 개인.
팀이나 프로덕션 환경에서 Jan의 비용은 얼마입니까?
유료 등급 없이 무료입니다. 비용은 하드웨어입니다. Menlo는 Mac 기준 7B 모델에 RAM 16 GB, 13B에 32 GB를 권장하며, 클라우드 모델을 쓰면 사용자 자신의 API 비용이 더해집니다.
Jan에 회사 데이터를 맡겨도 안전합니까?
Apache 2.0. 분석 수집은 옵트인이며 PostHog EU로 전송되고, 대화와 모델 선택은 포함하지 않습니다. 로컬 대화는 머신에 남고, 클라우드 대화는 제공자에게 갑니다. 로컬 API는 기본으로 키가 필요 없고 CORS가 켜져 있습니다.
Jan의 가장 좋은 대안은 무엇입니까?
저희가 리뷰한 것 중 가장 가까운 대안은 AnythingLLM, Cherry Studio 및 Open WebUI입니다.

답변 확인일: 2026년 10월 23일.

Jan 개발사입니까? 이 평점을 사이트에 표시하십시오ReviewRamble 평점: Jan, 5점 만점에 4.2점