Azure AI Content Safety의 개요
Azure AI Content Safety는 모델 앞뒤에서 호출하는 Microsoft의 검사 API 모음입니다. 기본 검사는 텍스트와 이미지를 혐오, 성적 콘텐츠, 폭력, 자해에 대해 여러 심각도 단계로 채점합니다. Prompt Shields는 사용자 메시지와 이메일이나 웹 페이지 같은 최대 5개 문서 모두에서 지시를 무력화하려는 시도를 찾습니다. 그 밖에 모델 출력에 담긴 노래 가사나 기사 같은 저작권 텍스트를 찾는 검사, 답변이 출처에 근거하는지 확인하는 검사, 사용자 요청과 맞지 않는 에이전트의 도구 호출을 표시하는 검사가 있습니다.
같은 서비스가 Microsoft Foundry의 가드레일을 움직이며, 그곳에서는 모델이나 에이전트 배포마다 켭니다. 독립 API는 어디에 호스팅된 모델에도 쓸 수 있습니다. Content Safety Studio는 설정을 시험하고 차단 목록을 관리하며 차단율을 지켜보는 웹 콘솔입니다.
무료 F0 등급은 매달 텍스트 레코드 5,000건과 이미지 5,000장을 제공합니다. 표준 등급에서는 East US 기준 텍스트 레코드(최대 1,000자)가 1,000건당 $0.375, 이미지가 1,000장당 $0.75입니다. 근거성 탐지와 컨테이너를 포함한 여러 미리 보기 기능은 2027년 4월 30일에 종료됩니다.
Azure AI Content Safety의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Free (F0) | Free | 매달 텍스트 레코드 5,000건과 이미지 5,000장, 초당 5개 요청 |
| Standard (S0) | $0.375 per 1,000 text records | 이미지 1,000장당 $0.75, 10초당 1,000개 요청 |
| Commitment tier | $338/month | 매달 텍스트 레코드 100만 건(1M), Azure에서 호스팅 |
무료 F0: 매달 텍스트 레코드 5,000건과 이미지 5,000장. 표준: 텍스트 레코드(건당 1,000자) 1,000건당 $0.375, 이미지 1,000장당 $0.75(East US). 약정 등급은 텍스트 레코드 100만 건(1M)에 $338/월부터.
Azure AI Content Safety, 쓸 만한 가치가 있습니까?
회사가 이미 Azure 위에서 돌아간다면, 호스팅 AI 가드레일을 더하는 일은 보통 새 공급업체 심사, 새 계약, 새 데이터 처리자를 뜻합니다. Content Safety는 그 대부분을 건너뜁니다. 이미 쓰는 것과 같은 키, 역할, 리전 선택지를 갖춘 Azure 리소스 하나일 뿐이기 때문입니다.
대부분의 챗봇에 필요한 일을 해냅니다. 텍스트와 이미지를 네 가지 해악으로 채점하고, 모델이 지시를 버리도록 설득하려는 시도를 잡아내며, 검색된 문서에 숨은 명령이 있는지 모델이 읽기 전에 확인합니다. 각 검사는 앱에 결과를 알려 줄 뿐이고, 차단 여부는 직접 정합니다.
가격은 낮고 공개되어 있습니다. 텍스트 레코드는 최대 1,000자이며 표준 등급에서 1,000건당 $0.375이므로, 짧은 메시지 100만 건을 검사하는 데 $375가 듭니다. 무료 등급은 매달 5,000건에서 멈추고 초과 요금을 절대 청구하지 않습니다.
데이터 조건은 보기 드물게 명확합니다. Microsoft는 입력을 저장하지 않고, 자사 모델 학습에 쓰지 않으며, 직원이 보지 않고, 데이터는 선택한 리전에 머문다고 말합니다. 다만 Microsoft가 전역 또는 데이터 영역 단위로 라우팅하는 기능은 예외입니다. 보관되는 것은 사용자의 차단 목록뿐입니다.
주의할 점: 한도가 빡빡하고 서비스의 상당 부분이 아직 미리 보기입니다. Prompt Shields는 프롬프트에 10,000자, 문서에는 최대 5개를 합쳐 10,000자까지만 받으므로 긴 검색 페이지는 나눠야 합니다. Prompt Shields와 근거성, 저작권 검사는 주로 영어로 학습했습니다. 근거성 탐지, 멀티모달 분석, 신속 사용자 정의 범주, 컨테이너는 2027년 4월 30일에 종료되며, 미리 보기 API 버전은 새 버전이 나오고 90일 뒤 지원이 중단됩니다.
결론: Azure 중심 회사라면 가장 먼저 넣을 계층입니다. 새 자물쇠를 사기 전에 이미 문에 달린 자물쇠부터 쓰는 것과 같습니다. Azure 밖에 있거나 여러 언어를 다루는 팀에는 Google의 Model Armor나 Qwen3Guard 같은 공개 모델이 더 잘 맞습니다.
제 역할을 하는 곳
Azure OpenAI로 보험금 청구 챗봇을 만드는 직원 300명 보험사의 개발자
고객이 봇을 꾀어 규칙을 어기게 하는 것을 막고 답변을 깨끗하게 유지하기
배포에 Foundry 가드레일을 켭니다. 사용자 프롬프트 공격 탐지는 기본으로 켜져 있으니 검색된 약관 텍스트를 위해 문서 공격 탐지도 켭니다. 차단하기 전에 주석 모드로 오탐을 재는 것부터 시작합니다.
Microsoft 전용 보안 정책 아래 AWS나 Google Cloud에서 에이전트를 운영하는 엔지니어
에이전트가 읽기 전에 도구 출력과 이메일에 숨은 지시가 있는지 검사하기
독립 Prompt Shields API를 사용자 프롬프트와 최대 5개 문서로 호출하되 한 묶음을 10,000자 이내로 맞추고, attackDetected로 돌아온 문서는 버립니다.
학생 업로드를 모더레이션하는 초중고 교육 소프트웨어 회사
성적, 폭력적, 혐오, 자해 관련 텍스트와 이미지 걸러 내기
텍스트와 이미지를 분석 API로 보내고 정한 심각도를 넘는 것을 차단합니다. 텍스트 레코드 100만 건의 월 비용은 표준 등급에서 $375, 약정 등급에서 $338입니다.
도입 전 확인할 점
- 설정
- 지원 리전에 Content Safety 리소스를 만들고 키나 관리 ID로 REST API 또는 SDK를 호출합니다. Studio에서 먼저 샘플 데 이터로 임계값을 시험할 수 있습니다.
- 연동
- REST API와 SDK, 모델 및 에이전트 배포용 Microsoft Foundry 가드레일에 내장, 차단 목록·테스트·모니터링을 위한 Content Safety Studio, 연결형 및 비연결형 컨테이너(미리 보기).
- 데이터와 개인정보
- Microsoft는 입력을 저장하지 않고 자사 모델의 학습이나 개선에 쓰지 않으며 사람의 검토에도 제공하지 않는다고 말합니다. 데이터는 선택한 리전에 머물지만 일부 기능은 전역 또는 데이터 영역 라우팅이 필요합니다. 차단 목록은 사용자의 리전에 암호화되어 저장됩니다. 고객 관리 키를 지원합니다.
- 대규모 사용 시 비용
- East US 표준 등급에서 텍스트 레코드 1,000건당 $0.375, 이미지 1,000장당 $0.75입니다. 텍스트 레코드는 1,000자이므로 7,500자는 8건으로 청구됩니다. 약정 등급은 텍스트 레코드 100만 건(1M)에 $338/월부터입니다.
- 제한
- S0는 모더레이션과 Prompt Shields에 10초당 1,000개 요청, 근거성에 초당 50개 요청을 허용합니다. 텍스트 분석은 10,000자, 이미지는 4 MB가 상한이며, 아동 성 착취 이미지 탐지에는 쓸 수 없습니다.
좋 은 점
- 공개 가격: 표준 등급 텍스트 레코드 1,000건당 $0.375
- Prompt Shields는 사용자 프롬프트뿐 아니라 문서도 검사
- 입력은 저장되거나 학습에 쓰이지 않으며 대부분의 검사는 리전 내 처리
- Entra ID, 관리 ID, 고객 관리 키 지원
아쉬운 점
- Prompt Shields의 프롬프트와 문서는 10,000자 상한
- Prompt Shields, 근거성, 저작권 검사는 주로 영어로 학습
- 여러 미리 보기 기능이 2027년 4월 30일 종료
- 무료 등급은 초당 5개 요청으로 제한
추천 대상
이미 Azure를 쓰면서, 공급업체를 늘리지 않고 챗봇과 에이전트용 호스팅 모더레이션과 프롬프트 인젝션 검사를 원하는 팀.
Azure AI Content Safety 대안
Azure AI Content Safety: 자주 묻는 질문
- Azure AI Content Safety, 쓸 만한 가치가 있습니까?
- 보안팀이 이미 승인한 공급업체의 저렴하고 문서화가 잘된 검사로, 데이터 약속은 대부분의 호스팅 가드보다 명확하지만 영어 밖에서는 기대기 어렵습니다. 평점은 5점 만점에 4.1점입니다.
- Azure AI Content Safety의 가격은 얼마입니까?
- 무료 F0: 매달 텍스트 레코드 5,000건과 이미지 5,000장. 표준: 텍스트 레코드(건당 1,000자) 1,000건당 $0.375, 이미지 1,000장당 $0.75(East US). 약정 등급은 텍스트 레코드 100만 건(1M)에 $338/월부터.
- Azure AI Content Safety의 단점은 무엇입니까?
- Prompt Shields의 프롬프트와 문서는 10,000자 상한; Prompt Shields, 근거성, 저작권 검사는 주로 영어로 학습; 여러 미리 보기 기능이 2027년 4월 30일 종료; 무료 등급은 초당 5개 요청으로 제한.
- Azure AI Content Safety에 적합한 사람은 누구입니까?
- 이미 Azure를 쓰면서, 공급업체를 늘리지 않고 챗봇과 에이전트용 호스팅 모더레이션과 프롬프트 인젝션 검사를 원하는 팀.
- 팀이나 프로덕션 환경에서 Azure AI Content Safety의 비용은 얼마입니까?
- East US 표준 등급에서 텍스트 레코드 1,000건당 $0.375, 이미지 1,000장당 $0.75입니다. 텍스트 레코드는 1,000자이므로 7,500자는 8건으로 청구됩니다. 약정 등급은 텍스트 레코드 100만 건(1M)에 $338/월부터입니다.
- Azure AI Content Safety에 회사 데이터를 맡겨도 안전합니까?
- Microsoft는 입력을 저장하지 않고 자사 모델의 학습이나 개선에 쓰지 않으며 사람의 검토에도 제공하지 않는다고 말합니다. 데이터는 선택한 리전에 머물지만 일부 기능은 전역 또는 데이터 영역 라우팅이 필요합니다. 차단 목록은 사용자의 리전에 암호화되어 저장됩니다. 고객 관리 키를 지원합니다.
- Azure AI Content Safety의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Google Model Armor, Lakera Guard (Check Point AI Guardrails) 및 Amazon Bedrock입니다.
답변 확인일: 2026년 11월 6일.
Azure AI Content Safety 개발사입니까? 이 평점을 사이트에 표시하십시오
