본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

PII 마스킹(PII redaction)

PII 마스킹(PII redaction)은 이름, 전화번호, 주소, 카드 번호 같은 개인 식별 정보를 텍스트나 이미지에서 찾아내, 모델에 보내거나 로그에 저장하거나 다른 사람에게 보여 주기 전에 지우거나 가리는 것입니다.

다른 이름: PII, personally identifiable information, PII masking, de-identification

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

개인 식별 정보(PII)는 단독으로 또는 다른 데이터와 결합해 특정인을 식별할 수 있는 정보입니다. NIST의 지침 SP 800-122는 무엇이 PII에 해당하고 어떻게 보호할지에 관한 흔한 참고 자료입니다. AI 애플리케이션은 이런 정보를 많이 다룹니다. 고객 지원 채팅, 업로드된 문서, 통화 녹취록, 디버깅용으로 보관하는 프롬프트 로그 등입니다.

AI로 개발할 때 중요한 이유

호스팅 모델로 보내는 모든 프롬프트는 내 시스템을 떠납니다. LLM 관측성 도구가 저장하는 모든 트레이스는 또 하나의 사본입니다. PII를 먼저 마스킹하면 제공업체, 로그 열람자, 공격자가 볼 수 있는 것이 줄어들고, 개인 데이터가 파인튜닝 세트에 들어가는 것도 막을 수 있습니다. 이는 가드레일의 입력 쪽에 자연스럽게 자리 잡습니다.

작동 방식

탐지기가 텍스트에서 개체를 찾습니다. 단순한 탐지기는 카드 번호나 국가 신분증 번호 같은 것에 패턴과 체크섬을 씁니다. 다른 탐지기는 개체명 인식 모델로 패턴이 놓치는 이름과 장소를 찾습니다. 찾은 항목은 삭제하거나, `<PERSON>` 같은 레이블로 가리거나, 모델이 대화를 계속 따라갈 수 있도록 일관된 자리 표시자나 가짜 값으로 바꿉니다. 일부 시스템은 안전한 매핑을 보관해 최종 답변에 실제 값을 되돌려 넣습니다. 지금은 커뮤니티 프로젝트가 된 Microsoft의 오픈소스 Presidio는 텍스트와 이미지에서 개체를 탐지하고 익명화하는 널리 쓰이는 툴킷입니다.

한계

탐지는 결코 완벽하지 않습니다. 흔치 않은 이름, 오타, 자유 형식 주소, 문맥상의 단서는 빠져나가고, 설정을 공격적으로 하면 모델에 필요한 단어까지 지워집니다. 마스킹은 데이터가 어디서 처리되고 보관되는지도 해결하지 않습니다. 데이터 레지던시와 데이터 무보존을 참고하십시오. 무엇이 PII에 해당하고 이를 어떻게 다뤄야 하는지는 적용되는 법률에 달려 있으며, 이 페이지는 그 내용을 다루지 않습니다.

관련 용어

가드레일(AI)
가드레일(guardrails)은 언어 모델 주변에 두는 실행 시점 점검 장치로, 입력과 출력을 검사해 막거나, 다시 쓰거나, 다른 곳으로 돌립니다. 애플리케이션이 주제를 벗어나지 않고, 해로운 콘텐츠를 피하고, 모델만으로는 꾸준히 지키지 못할 규칙을 따르게 합니다.
데이터 레지던시
데이터 레지던시(data residency)는 고객의 데이터를 EU처럼 선택한 지리적 지역에 저장하고, 흔히 처리도 그 지역에서 하게 하는 통제 수단입니다. 데이터가 어디에 있어야 하는지에 관한 팀 자체의 법적, 계약상, 고객 요구를 충족하게 합니다.
데이터 무보존(Zero data retention)
데이터 무보존(zero data retention, ZDR)은 AI 제공업체가 요청에 답한 뒤 고객의 프롬프트와 출력을 보관하지 않는 방식으로, 보통 승인된 고객에게만, 그리고 해당되는 API 기능에만 제공됩니다.
LLM 관측성(LLM observability)
LLM 관측성(LLM observability)은 AI 애플리케이션이 프로덕션에서 하는 일, 즉 프롬프트, 응답, 도구 호출, 지연 시간, 토큰 사용량, 비용을 검색 가능한 트레이스로 기록하는 것입니다. 이를 통해 실패를 디버깅하고 시스템이 시간에 따라 어떻게 동작하는지 볼 수 있습니다.

출처