AI 공급망 공격
AI 공급망 공격(AI supply-chain attack)은 애플리케이션을 직접 공격하는 대신, 내려받은 모델, LoRA 어댑터, 데이터셋, Python 패키지, MCP 서버, 에이전트 스킬처럼 애플리케이션이 의존하는 무언가를 통해 AI 애플리케이션을 장악하는 공격입니다.
다른 이름: malicious package, poisoned skill, model supply-chain attack, poisoned model
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
현대 AI 앱은 다른 사람이 만든 부품으로 조립됩니다. 허브에서 받은 모델 가중치, 미세 조정 어댑터, 학습 데이터, 추론 라이브러리, 레지스트리에서 설치한 MCP 서버와 에이전트 스킬입니다. 각각이 앱의 접근 권한으로 실행됩니다. 공격자가 그중 하나라도 장악하면 시스템의 일부를 장악하게 됩니다.
OWASP는 LLM 애플리케이션 Top 10에서 공급망을 세 번째 위험으로 꼽으며, 머신러닝에서는 위험이 코드와 의존성을 넘어 제3자의 사전 학습 모델과 데이터까지 확장된다고 지적합니다.
흔한 형태
모델 개발 환경에 들어온 취약하거나 악의적인 Python 패키지. 익숙한 이름으로 올라온 변조된 모델이나 가짜 모델. 모델에 병합되기 전에 백도어가 심어지도록 바뀐 LoRA 어댑터. 미세 조정 중에 숨겨진 트리거를 심는 오염된 공개 데이터셋. 에이전트라면 말한 기능을 하면서도 숨겨진 지시를 담고 있는 스킬이나 MCP 서버가 있습니다. 도구 포이즈닝은 그 MCP판입니다.
내려받은 가중치의 파일 형식도 중요합니다. 가중치를 안전하게 저장하도록 설계된 형식은 safetensors를 참고하 십시오.
방어
OWASP는 공급자를 검증하고, 서명과 파일 해시로 확인할 수 있는 출처의 모델만 쓰고, 소프트웨어 자재 명세서(SBOM)를 관리하고, 구성 요소를 검사하고 패치하며, 제3자 모델을 자신의 사용 사례에 맞춰 레드팀 테스트하라고 권합니다. 실제로는 버전을 고정하고, 스킬이나 서버를 설치하기 전에 무엇에 접근할 수 있는지 검토하고, 신뢰할 수 없는 코드는 샌드박스에서 실행하십시오. Snyk Agent Scan 같은 스캐너는 에이전트 구성 요소의 알려진 위험을 점검합니다.
관련 용어
- 도구 포이즈닝(Tool poisoning)
- 도구 포이즈닝(tool poisoning)은 악성 도구, 흔히 MCP 서버가 도구 설명이나 메타데이터에 지시를 숨기는 공격입니다. AI 모델은 이를 지침으로 읽고, 사용자가 알아채지 못하는 사이에 데이터를 유출하거나 다른 도구를 오용할 수 있습니다.
- 에이전트 스킬
- 에이전트 스킬(agent skills)은 지시, 스크립트, 참고 파일을 담은 폴더로, 각각 SKILL.md 파일로 설명됩니다. AI 에이전트는 작업에 필요할 때만 이를 찾아 불러옵니다.
- MCP 서버(MCP server)
- MCP 서버(MCP server)는 Model Context Protocol을 통해 도구, 데이터 리소스, 프롬프트 템플릿을 AI 애플리케이션에 제공하는 프로그램입니다. MCP 호환 클라이언트라면 별도 통합 코드 없이 이를 쓸 수 있습니다.
- Safetensors
- Safetensors는 Hugging Face가 만든 모델 가중치 저장용 파일 형식입니다. Python pickle 파일과 달리 불러올 때 숨겨진 코드가 실행될 수 없으며, 개별 텐서를 메모리 매핑으로 빠르게 불러올 수 있습니다.
- 모델 가중치(Model weights)
- 모델 가중치(model weights)는 신경망 안에서 학습 중에 정해지는 숫자로, 입력을 출력으로 바꾸는 방식을 결정합니다. 체크포인트는 이 가중치를 담은 저장 파일 또는 파일 묶음입니다.