휴먼 인 더 루프
휴먼 인 더 루프(HITL, human-in-the-loop)는 AI 시스템이 정해진 지점에서 멈추고 사람이 다음 단계를 승인, 수정, 거부하게 하는 설계로, 위험하거나 불확실한 동작이 자동으로 실행되지 않게 합니다.
다른 이름: HITL, approval prompts
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
이메일을 보내거나, 돈을 쓰거나, 파일을 지울 수 있는 에이전트에는 그 일을 하기 전에 점검이 필요합니다. 휴먼 인 더 루프는 그 지점에 사람을 둡니다.
작동 방식
어떤 동작에 승인이 필요한지는 애플리케이션이 정합니다. 흔한 계기는 셸 명령 실행, 프로젝트 폴더 밖에 쓰기, 결제 API 호출처럼 부수 효과가 있는 동작과, 에이전트가 막혔을 때입니다. 그 지점에서 에이전트는 멈추고 하려는 일을 보여 줍니다. 사람이 승인하거나, 수정하거나, 거부하면 에이전트가 이어 갑니다.
프레임워크가 이를 직접 지원합니다. LangGraph는 실행을 멈추고, 사람이 상태를 살펴보거나 수정하게 한 뒤, 다시 이어 갈 수 있습니다. 코딩 에이전트는 권한 규칙을 씁니다. 예를 들어 Claude Code에서는 팀이 어떤 도구와 명령을 허용하고, 어떤 것을 거부하고, 어떤 것은 먼저 물어야 하는지 정할 수 있습니다. 이런 규칙은 에이전트 권한에서 다룹니다.
예시
고객 지원 에이전트가 환불 초안을 작성합니다. 정해진 금액 미만의 환불은 그대로 처리되고, 그보다 큰 환불은 직원이 승인을 누를 때까지 기다립니다.
한계
승인 요청이 너무 많으면 사람들은 읽지 않고 습관적으로 예를 누릅니다. 요청은 동작을 판단할 만큼 충분한 정보를 보여 줄 때만 도움이 됩니다. 승인을 에이전트 샌드박스와 함께 써서 묻지 않고 실행되는 동작이 격리되게 하고, 프롬프트 인젝션이 해로운 요청을 일상적인 것처럼 보이게 할 수 있다는 점을 기억하십시오.
관련 용어
- 에이전트 샌드박스
- 에이전트 샌드박스(agent sandbox)는 AI 에이전트가 코드와 명령을 실행하는 격리된 환경입니다. 컨테이너, 가상 머신, 운영체제 제한 등이 있으며, 정해진 한계 밖의 파일, 네트워크, 데이터에 닿지 못하게 합니다.
- 가드레일(AI)
- 가드레일(guardrails)은 언어 모델 주변에 두는 실행 시점 점검 장치로, 입력과 출력을 검사해 막거나, 다시 쓰거나, 다른 곳으로 돌립니다. 애플리케이션이 주제를 벗어나지 않고, 해로운 콘텐츠를 피하고, 모델만으로는 꾸준히 지키지 못할 규칙을 따르게 합니다.
- 에이전트 권한
- 에이전트 권한(agent permissions)은 AI 에이전트가 어떤 도구, 파일, 명령, 네트워크, 계정을 쓸 수 있는지, 어떤 동작에 먼저 사람의 승인이 필요한지를 정하는 규칙입니다. 에이전트가 실수하거나 조작당해도 피해를 제한하기 위한 것입니다.
- 프롬프트 인젝션(Prompt injection)
- 프롬프트 인젝션(prompt injection)은 사용자가 입력하거나 웹 페이지, 파일, 도구 결과에 숨겨진 텍스트가 언어 모델에 들어가, 개발자가 의도하지 않은 방식으로 모델의 동작을 바꾸는 공격입니다.
- 에이전트 훅
- 에이전트 훅(agent hooks)은 코딩 에이전트가 도구 호출 전이나 파일 수정 후처럼 작업 중 정해진 시점에 자동으로 실행하는, 사용자가 정의한 명령이나 스크립트입니다. 에이전트의 동작을 점검하거나, 막거나, 확장하는 데 씁니다.