본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

safeagents

코딩 에이전트의 도구 호출을 모두 검사해, 실행 환경이 돌리기 전에 위험한 것을 막는 Hugging Face의 로컬 프록시.

리뷰어: ReviewRamble editors · 업데이트

GitHub에서 보기 오픈 소스

이 페이지 공유:XLinkedInFacebookRedditWhatsApp이메일

평점

4.1/5

safeagents는 API 통로에 자리 잡아 어떤 코딩 에이전트에서든 쓸 수 있는 방어막을 더하며 설계 판단도 옳지만, 알려진 패턴을 거르는 필터일 뿐 샌드박스는 아닙니다.

safeagents의 개요

safeagents는 코딩 에이전트와 그 모델 API 사이에 두는 작은 프록시입니다. 모델이 돌려주는 모든 도구 호출을 Claude Code, OpenCode, Pi, Hermes 등 기본 URL을 설정할 수 있는 실행 환경이 보기 전에 확인하며, 막은 호출은 텍스트 안내로 바꿔 아무것도 실행되지 않게 합니다. OpenAI Chat Completions와 Anthropic Messages에서, 스트리밍 여부와 관계없이 동작합니다.

검사는 세 단계입니다. 선언되지 않은 도구나 대화 어디에도 나오지 않는 호스트 같은 요청 자체에 대한 규칙, /proc/1/environ 읽기나 Kubernetes 서비스 계정 토큰 같은 패턴을 잡는 Hugging Face atif-scan의 탐지기, 그리고 의심스러운 호출을 위한 선택 사항인 판정 모델입니다. 라이선스는 Apache-2.0이며 uv 도구로 설치합니다.

safeagents, 쓸 만한 가치가 있습니까?

에이전트용 안전 도구 대부분은 특정 실행 환경 안에 있습니다. safeagents는 API 경계에서 일합니다. 에이전트의 기본 URL을 로컬 프록시로 향하게 하면, 모델이 돌려주는 모든 도구 호출이 실행 환경이 돌리기 전에 검사됩니다. 그래서 에이전트를 가리지 않고 Claude Code, OpenCode, Pi, Hermes와 설정 안내가 있는 13개 에이전트를 OpenAI와 Anthropic API 모두에서 다룹니다.

검사 순서가 잘 짜여 있습니다. 먼저 값싼 규칙으로, 요청이 선언하지 않은 도구와, 대화 어디에도 나오지 않는 호스트를 인자에 담은 호출을 막으며, 모델 자신의 이전 발화는 계산에 넣지 않습니다. 다음으로 atif-scan 탐지기가 /proc/1/environ 읽기, curl --noproxy, Kubernetes 서비스 계정 토큰, unshare 같은 알려진 탈출·유출 패턴을 살핍니다. 의심스러운 호출만 선택 사항인 판정 모델에 가며, 판정 모델은 사용자가 쓴 내용과 탐지 결과는 보지만 에이전트의 추론은 결코 보지 않아 에이전트가 자기 변론을 할 수 없습니다. 판정 모델은 차단을 더할 수는 있어도 풀 수는 없습니다.

부담은 작습니다. 도구 호출은 인자가 다 모일 때까지만 붙잡아 두므로 스트리밍에 지연이 생기지 않고, atif-scan은 M 칩 Mac에서 호출당 약 10~20 ms가 듭니다. 한계는 본질적입니다. 규칙과 탐지기가 아는 것만 잡으므로 일반 셸로 하는 새로운 공격은 빠져나갈 수 있고, 허용된 명령이 그다음에 무엇을 하는지는 관여하지 않습니다. 샌드박스 앞에 두는 유용한 층이지 대체물이 아닙니다. --log-only 모드로 실제로 막기 전에 무엇을 막을지 볼 수 있습니다.

제 역할을 하는 곳

  • 넓은 셸 권한으로 Claude Code를 쓰는 개발자

    유출이나 컨테이너 탈출 명령을 실행 전에 잡아내기

    api.anthropic.com 앞에 safeagents를 기록 전용 모드로 일주일 돌려 기록을 살펴본 뒤 적용하십시오. ANTHROPIC_BASE_URL을 로컬 프록시로 지정하십시오.

  • 벤치마크 과제로 에이전트를 평가하는 플랫폼 팀

    에이전트가 공개된 정답을 가져오지 못하게 하기

    README의 예처럼 atif-scan의 RegexDetector로 정답 파일 읽기를 막는 플러그인을 작성하십시오.

도입 전 확인할 점

설정
설치 스크립트(macOS, Linux, WSL, PowerShell)를 실행하고, safeagents start <API URL> --log-only를 실행한 뒤 에이전트의 기본 URL을 http://127.0.0.1:8787로 지정합니다.
연동
OpenAI Chat Completions와 Anthropic Messages API. Claude Code, OpenCode, Pi, Hermes와 안내가 있는 13개 에이전트. atif-scan 탐지기. Hugging Face Hub 플러그인.
데이터와 개인정보
로컬에서 동작하며 ~/.safeagents/run에 기록합니다. 요청은 선택한 모델 API로 그대로 전달됩니다.
대규모 사용 시 비용
무료. 선택 사항인 판정 모델은 그것을 제공하는 쪽이 청구합니다.
제한
기본 차단 기준은 심각도 높음입니다. 규칙과 탐지기가 아는 것만 검사합니다.

좋은 점

  • 사용자 지정 기본 URL을 받는 어떤 에이전트와도 동작
  • 단계별 검사, 판정 모델은 차단을 더하기만 함
  • 스트리밍 지연 없음, 호출당 약 10~20 ms
  • 적용 전 기록 전용 모드
  • 자체 검사를 더하는 플러그인

아쉬운 점

  • 패턴 기반이라 새로운 공격은 빠져나갈 수 있음
  • 허용한 명령은 격리하지 않음
  • 판정 모델은 비용과 설정이 더 듦

추천 대상

실제 권한을 가진 코딩 에이전트를 돌리며, 실행 전 도구 호출을 저렴하고 에이전트에 구애받지 않게 검사하고 싶은 개발자와 팀.

safeagents: 자주 묻는 질문

safeagents, 쓸 만한 가치가 있습니까?
safeagents는 API 통로에 자리 잡아 어떤 코딩 에이전트에서든 쓸 수 있는 방어막을 더하며 설계 판단도 옳지만, 알려진 패턴을 거르는 필터일 뿐 샌드박스는 아닙니다. 평점은 5점 만점에 4.1점입니다.
safeagents의 가격은 얼마입니까?
무료 오픈소스(Apache 2.0). 선택 사항인 판정 모델에는 별도 비용이 듭니다.
safeagents의 단점은 무엇입니까?
패턴 기반이라 새로운 공격은 빠져나갈 수 있음; 허용한 명령은 격리하지 않음; 판정 모델은 비용과 설정이 더 듦.
safeagents에 적합한 사람은 누구입니까?
실제 권한을 가진 코딩 에이전트를 돌리며, 실행 전 도구 호출을 저렴하고 에이전트에 구애받지 않게 검사하고 싶은 개발자와 팀.
팀이나 프로덕션 환경에서 safeagents의 비용은 얼마입니까?
무료. 선택 사항인 판정 모델은 그것을 제공하는 쪽이 청구합니다.
safeagents에 회사 데이터를 맡겨도 안전합니까?
로컬에서 동작하며 ~/.safeagents/run에 기록합니다. 요청은 선택한 모델 API로 그대로 전달됩니다.

답변 확인일: 2026년 11월 15일.

safeagents 개발사입니까? 이 평점을 사이트에 표시하십시오ReviewRamble 평점: safeagents, 5점 만점에 4.1점