도구 포이즈닝(Tool poisoning)
도구 포이즈닝(tool poisoning)은 악성 도구, 흔히 MCP 서버가 도구 설명이나 메타데이터에 지시를 숨기는 공격입니다. AI 모델은 이를 지침으로 읽고, 사용자가 알아채지 못하는 사이에 데이터를 유출하거나 다른 도구를 오용할 수 있습니다.
다른 이름: MCP rug pull, tool poisoning attack, TPA, tool shadowing
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
에이전트가 MCP 서버에 연결하면, 서버는 어떤 도구가 있는지 알려 주고 각 도구가 하는 일을 설명합니다. 모델은 도구를 어떻게 호출할지 정하려고 그 설명을 전부 읽습니다. 사용자는 보통 짧은 도구 이름만 봅니다. 도구 포이즈닝이 노리는 것이 바로 이 간극입니다.
작동 방식
2025년에 이 공격에 이름을 붙인 Invariant Labs는 이를 사용자에게는 보이지 않지만 AI 모델에게는 보이는, MCP 도구 설명에 심어 둔 악성 지시라고 설명합니다. 두 수를 더한다고 주장하는 도구가, 모델에게 로컬 설정 파일이나 키를 읽어 무해해 보이는 인수에 실어 보내라고 지시하는 숨겨진 텍스트를 담고 있을 수 있습니다. Invariant는 이를 간접 프롬프트 인젝션의 특수한 형태라고 설명하며, 흔한 목표는 데이터 유출입니다.
러그 풀과 섀도잉
MCP 러그 풀은 이미 승인한 서버가 나중에 도구 설명을 바꾸는 것으로, 그래서 처음 검토에서 깨끗했다는 것은 별로 증명하는 바가 없습니다. 도구 섀도잉은 악성 서버의 설명이 신뢰하는 다른 서버의 도구를 에이전트가 쓰는 방식을 바꾸는 것으로, 예를 들어 이메일을 보내는 곳을 다른 데로 돌립니다. 그래서 해로운 도구 자체는 호출될 필요조차 없습니다.
방어
Invariant는 사용자에게 도구 설명 전체를 보여 주고, 해시로 서버 버전을 고정해 변경을 탐지하고, 서버 사이의 경계를 더 엄격히 할 것을 제안합니다. 그 밖의 흔한 조치로는 다른 AI 공급망 위험과 마찬가지로 신뢰하는 게시자의 서버만 설치하기, 에이전트 권한을 좁게 유지하기, Snyk Agent Scan 같은 도구로 서버를 검사하기가 있습니다. 이 사이트의 MCP 도구 리뷰에는 서버가 요구하는 권한이 모두 나와 있습니다.
관련 용어
- 프롬프트 인젝션(Prompt injection)
- 프롬프트 인젝션(prompt injection)은 사용자가 입력하거나 웹 페이지, 파일, 도구 결과에 숨겨진 텍스트가 언어 모델에 들어가, 개발자가 의도하지 않은 방식으로 모델의 동작을 바꾸는 공격입니다.
- MCP 서버(MCP server)
- MCP 서버(MCP server)는 Model Context Protocol을 통해 도구, 데이터 리소스, 프롬프트 템플릿을 AI 애플리케이션에 제공하는 프로그램입니다. MCP 호환 클라이언트라면 별도 통합 코드 없이 이를 쓸 수 있습니다.
- AI 공급망 공격
- AI 공급망 공격(AI supply-chain attack)은 애플리케이션을 직접 공격하는 대신, 내려받은 모델, LoRA 어댑터, 데이터셋, Python 패키지, MCP 서버, 에이전트 스킬처럼 애플리케이션이 의존하는 무언가를 통해 AI 애플리케이션을 장악하는 공격입니다.
- 에이전트 권한
- 에이전트 권한(agent permissions)은 AI 에이전트가 어떤 도구, 파일, 명령, 네트워크, 계정을 쓸 수 있는지, 어떤 동작에 먼저 사람의 승인이 필요한지를 정하는 규칙입니다. 에이전트가 실수하거나 조작당해도 피해를 제한하기 위한 것입니다.
- 데이터 유출(AI 에이전트)
- AI 에이전트에서 데이터 유출(data exfiltration)은 공격자가 에이전트를 속여 접근 가능한 비공개 데이터를 읽게 하고, 웹 요청, 이메일, 이미지 링크 등 공격자가 통제하는 경로로 내보내게 하는 것을 말합니다.