본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

휴먼 인 더 루프

휴먼 인 더 루프(HITL, human-in-the-loop)는 AI 시스템이 정해진 지점에서 멈추고 사람이 다음 단계를 승인, 수정, 거부하게 하는 설계로, 위험하거나 불확실한 동작이 자동으로 실행되지 않게 합니다.

다른 이름: HITL, approval prompts

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

이메일을 보내거나, 돈을 쓰거나, 파일을 지울 수 있는 에이전트에는 그 일을 하기 전에 점검이 필요합니다. 휴먼 인 더 루프는 그 지점에 사람을 둡니다.

작동 방식

어떤 동작에 승인이 필요한지는 애플리케이션이 정합니다. 흔한 계기는 셸 명령 실행, 프로젝트 폴더 밖에 쓰기, 결제 API 호출처럼 부수 효과가 있는 동작과, 에이전트가 막혔을 때입니다. 그 지점에서 에이전트는 멈추고 하려는 일을 보여 줍니다. 사람이 승인하거나, 수정하거나, 거부하면 에이전트가 이어 갑니다.

프레임워크가 이를 직접 지원합니다. LangGraph는 실행을 멈추고, 사람이 상태를 살펴보거나 수정하게 한 뒤, 다시 이어 갈 수 있습니다. 코딩 에이전트는 권한 규칙을 씁니다. 예를 들어 Claude Code에서는 팀이 어떤 도구와 명령을 허용하고, 어떤 것을 거부하고, 어떤 것은 먼저 물어야 하는지 정할 수 있습니다. 이런 규칙은 에이전트 권한에서 다룹니다.

예시

고객 지원 에이전트가 환불 초안을 작성합니다. 정해진 금액 미만의 환불은 그대로 처리되고, 그보다 큰 환불은 직원이 승인을 누를 때까지 기다립니다.

한계

승인 요청이 너무 많으면 사람들은 읽지 않고 습관적으로 예를 누릅니다. 요청은 동작을 판단할 만큼 충분한 정보를 보여 줄 때만 도움이 됩니다. 승인을 에이전트 샌드박스와 함께 써서 묻지 않고 실행되는 동작이 격리되게 하고, 프롬프트 인젝션이 해로운 요청을 일상적인 것처럼 보이게 할 수 있다는 점을 기억하십시오.

관련 용어

에이전트 샌드박스
에이전트 샌드박스(agent sandbox)는 AI 에이전트가 코드와 명령을 실행하는 격리된 환경입니다. 컨테이너, 가상 머신, 운영체제 제한 등이 있으며, 정해진 한계 밖의 파일, 네트워크, 데이터에 닿지 못하게 합니다.
가드레일(AI)
가드레일(guardrails)은 언어 모델 주변에 두는 실행 시점 점검 장치로, 입력과 출력을 검사해 막거나, 다시 쓰거나, 다른 곳으로 돌립니다. 애플리케이션이 주제를 벗어나지 않고, 해로운 콘텐츠를 피하고, 모델만으로는 꾸준히 지키지 못할 규칙을 따르게 합니다.
에이전트 권한
에이전트 권한(agent permissions)은 AI 에이전트가 어떤 도구, 파일, 명령, 네트워크, 계정을 쓸 수 있는지, 어떤 동작에 먼저 사람의 승인이 필요한지를 정하는 규칙입니다. 에이전트가 실수하거나 조작당해도 피해를 제한하기 위한 것입니다.
프롬프트 인젝션(Prompt injection)
프롬프트 인젝션(prompt injection)은 사용자가 입력하거나 웹 페이지, 파일, 도구 결과에 숨겨진 텍스트가 언어 모델에 들어가, 개발자가 의도하지 않은 방식으로 모델의 동작을 바꾸는 공격입니다.
에이전트 훅
에이전트 훅(agent hooks)은 코딩 에이전트가 도구 호출 전이나 파일 수정 후처럼 작업 중 정해진 시점에 자동으로 실행하는, 사용자가 정의한 명령이나 스크립트입니다. 에이전트의 동작을 점검하거나, 막거나, 확장하는 데 씁니다.

출처