Was ist Azure AI Content Safety?
Azure AI Content Safety ist eine Sammlung von Screening-APIs von Microsoft, die du vor und nach einem Modell aufrufst. Die Grundprüfungen bewerten Text und Bilder auf Hass, sexuelle Inhalte, Gewalt und Selbstverletzung in mehreren Schweregraden. Prompt Shields suchen nach Versuchen, deine Anweisungen auszuhebeln, sowohl in der Nutzernachricht als auch in bis zu fünf Dokumenten wie E-Mails oder Webseiten. Weitere Prüfungen erkennen urheberrechtlich geschützten Text wie Liedtexte und Artikel in der Modellausgabe, testen, ob eine Antwort in ihren Quellen verankert ist, und markieren Tool-Aufrufe eines Agenten, die nicht zur Bitte des Nutzers passen.
Derselbe Dienst steckt hinter den Guardrails in Microsoft Foundry, wo er pro Modell- oder Agenten-Deployment eingeschaltet wird; die eigenständige API funktioniert mit Modellen, die irgendwo gehostet sind. Content Safety Studio ist eine Webkonsole, um Einstellungen zu testen, Sperrlisten zu verwalten und Blockierraten zu beobachten.
Die kostenlose Stufe F0 bietet 5,000 Textdatensätze und 5,000 Bilder im Monat. In der Standardstufe kostet ein Textdatensatz (bis zu 1,000 Zeichen) $0.375 pro 1,000 und ein Bild $0.75 pro 1,000 in East US. Mehrere Vorschaufunktionen, darunter die Fundierungserkennung und die Container, werden am 30. April 2027 eingestellt.
Was kostet Azure AI Content Safety?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Free (F0) | Free | 5,000 Textdatensätze und 5,000 Bilder im Monat; 5 Anfragen pro Sekunde |
| Standard (S0) | $0.375 per 1,000 text records | $0.75 pro 1,000 Bilder; 1,000 Anfragen pro 10 Sekunden |
| Commitment tier | $338/month | 1M Textdatensätze im Monat, auf Azure gehostet |
Kostenlose Stufe F0: 5,000 Textdatensätze und 5,000 Bilder im Monat. Standard: $0.375 pro 1,000 Textdatensätze (je 1,000 Zeichen) und $0.75 pro 1,000 Bilder (East US). Commitment-Stufen ab $338/Monat für 1M Textdatensätze.
Lohnt sich Azure AI Content Safety?
Läuft deine Firma schon auf Azure, bedeutet ein gehosteter KI-Guardrail meist eine neue Lieferantenprüfung, einen neuen Vertrag und einen neuen Auftragsverarbeiter. Content Safety erspart dir das meiste davon, weil es nur eine weitere Azure-Ressource ist, mit denselben Schlüsseln, Rollen und Regionsoptionen, die du schon nutzt.
Es erledigt die Aufgaben, die die meisten Chatbots brauchen. Es bewertet Text und Bilder auf vier Arten von Schaden, erkennt Versuche, das Modell von seinen Anweisungen abzubringen, und prüft abgerufene Dokumente auf versteckte Befehle, bevor dein Modell sie liest. Jede Prüfung antwortet deiner App; blockiert wird nur, was du blockieren willst.
Der Preis ist niedrig und öffentlich. Ein Textdatensatz umfasst bis zu 1,000 Zeichen und kostet in der Standardstufe $0.375 pro 1,000, eine Million kurzer Nachrichten zu prüfen kostet also $375. Die kostenlose Stufe endet bei 5,000 Datensätzen im Monat und berechnet nie Mehrverbrauch.
Die Datenbedingungen sind ungewöhnlich klar. Microsoft sagt, Eingaben würden nicht gespeichert, nicht zum Training seiner Modelle verwendet und nicht von Mitarbeitern eingesehen, und die Daten blieben in der gewählten Region, außer bei Funktionen, die Microsoft global oder über eine Datenzone leitet. Nur deine Sperrlisten werden aufbewahrt.
Der Haken: Die Grenzen sind eng, und vieles ist noch Vorschau. Prompt Shields nehmen 10,000 Zeichen für den Prompt und 10,000 verteilt auf höchstens fünf Dokumente an, lange abgerufene Seiten müssen also geteilt werden. Prompt Shields sowie die Prüfungen auf Fundierung und Urheberrecht sind vor allem auf Englisch trainiert. Fundierungserkennung, multimodale Analyse, schnelle eigene Kategorien und die Container werden am 30. April 2027 eingestellt, und Vorschauversionen der API gelten 90 Tage nach Erscheinen einer neuen als veraltet.
Unser Fazit: Für eine Azure-Firma ist das die erste Schicht, so wie du zuerst das Schloss benutzt, das schon in deiner Tür sitzt, bevor du ein neues kaufst. Teams außerhalb von Azure oder mit vielen Sprachen sind mit Googles Model Armor oder einem offenen Modell wie Qwen3Guard besser bedient.
Wo es sich lohnt
Ein Entwickler bei einem Versicherer mit 300 Beschäftigten, der einen Schadens-Chatbot auf Azure OpenAI baut
Verhindern, dass Kunden den Bot von seinen Regeln abbringen, und die Antworten sauber halten
Schalte die Foundry-Guardrails für das Deployment ein; die Erkennung von Angriffen im Nutzerprompt ist standardmäßig aktiv, die Erkennung von Dokumentangriffen schaltest du für abgerufene Policentexte zu. Starte im Annotate-Modus, um Fehlalarme zu messen, bevor du blockierst.
Ein Engineer, der Agenten auf AWS oder Google Cloud unter einer reinen Microsoft-Sicherheitsrichtlinie betreibt
Tool-Ausgaben und E-Mails auf versteckte Anweisungen prüfen, bevor der Agent sie liest
Rufe die eigenständige Prompt-Shields-API mit dem Nutzerprompt und bis zu fünf Dokumenten auf, jeder Stapel innerhalb von 10,000 Zeichen, und verwirf Dokumente, die mit attackDetected zurückkommen.
Ein Softwareanbieter für Schulen, der Uploads von Schülern moderiert
Text und Bilder auf sexuelle, gewalttätige, hasserfüllte und selbstverletzende Inhalte filtern
Schicke Text und Bilder an die Analyse-APIs und blockiere oberhalb des gewählten Schweregrads. Eine Million Textdatensätze im Monat kosten in der Standardstufe $375 oder in einer Commitment-Stufe $338.
Bevor du dich festlegst
- Einrichtung
- Eine Content-Safety-Ressource in einer unterstützten Region anlegen, Schlüssel nehmen oder verwaltete Identität nutzen und die REST-API oder das SDK aufrufen; im Studio lassen sich Schwellenwerte vorher an Beispieldaten testen.
- Integrationen
- REST-API und SDKs; eingebaut in die Guardrails von Microsoft Foundry für Modell- und Agenten-Deployments; Content Safety Studio für Sperrlisten, Tests und Monitoring; verbundene und getrennte Container in der Vorschau.
- Daten und Datenschutz
- Microsoft sagt, Eingaben würden nicht gespeichert, nicht zum Training oder zur Verbesserung seiner Modelle genutzt und nicht für menschliche Prüfung bereitgestellt; die Daten bleiben in der gewählten Region, wobei manche Funktionen globales oder Datenzonen-Routing brauchen. Sperrlisten werden verschlüsselt in deiner Region gespeichert. Kundenseitig verwaltete Schlüssel werden unterstützt.
- Kosten im großen Maßstab
- $0.375 pro 1,000 Textdatensätze und $0.75 pro 1,000 Bilder in der Standardstufe in East US; ein Textdatensatz sind 1,000 Zeichen, 7,500 Zeichen werden also als 8 berechnet. Commitment-Stufen beginnen bei $338/Monat für 1M Textdatensätze.
- Grenzen
- S0 erlaubt 1,000 Anfragen pro 10 Sekunden für Moderation und Prompt Shields, 50 pro Sekunde für Fundierung; Textanalyse bis 10,000 Zeichen, Bilder bis 4 MB; darf nicht zur Erkennung von Darstellungen sexuellen Kindesmissbrauchs genutzt werden.
Was gut ist
- Öffentliche Preise: $0.375 pro 1,000 Textdatensätze in der Standardstufe
- Prompt Shields prüfen Dokumente ebenso wie Nutzerprompts
- Eingaben weder gespeichert noch fürs Training genutzt; regionale Verarbeitung für die meisten Prüfungen
- Entra ID, verwaltete Identität und kundenseitig verwaltete Schlüssel
Was nicht
- Obergrenze von 10,000 Zeichen für Prompts und Dokumente bei Prompt Shields
- Prompt Shields, Fundierung und Urheberrecht vor allem auf Englisch trainiert
- Mehrere Vorschaufunktionen enden am 30. April 2027
- Kostenlose Stufe auf 5 Anfragen pro Sekunde begrenzt
Am besten für
Teams, die schon auf Azure sind und gehostete Moderation und Prompt-Injection-Screening für Chatbots und Agenten wollen, ohne einen weiteren Anbieter.
Alternativen zu Azure AI Content Safety
Azure AI Content Safety: häufige Fragen
- Lohnt sich Azure AI Content Safety?
- Günstiges, gut dokumentiertes Screening von einem Anbieter, den dein Sicherheitsteam schon freigegeben hat, mit klareren Datenzusagen als die meisten gehosteten Guards, doch außerhalb des Englischen bist du auf dich gestellt. Wir bewerten es mit 4.1 von 5.
- Was kostet Azure AI Content Safety?
- Kostenlose Stufe F0: 5,000 Textdatensätze und 5,000 Bilder im Monat. Standard: $0.375 pro 1,000 Textdatensätze (je 1,000 Zeichen) und $0.75 pro 1,000 Bilder (East US). Commitment-Stufen ab $338/Monat für 1M Textdatensätze.
- Welche Nachteile hat Azure AI Content Safety?
- Obergrenze von 10,000 Zeichen für Prompts und Dokumente bei Prompt Shields; Prompt Shields, Fundierung und Urheberrecht vor allem auf Englisch trainiert; Mehrere Vorschaufunktionen enden am 30. April 2027; Kostenlose Stufe auf 5 Anfragen pro Sekunde begrenzt.
- Für wen eignet sich Azure AI Content Safety?
- Teams, die schon auf Azure sind und gehostete Moderation und Prompt-Injection-Screening für Chatbots und Agenten wollen, ohne einen weiteren Anbieter.
- Was kostet Azure AI Content Safety für ein Team oder im Produktivbetrieb?
- $0.375 pro 1,000 Textdatensätze und $0.75 pro 1,000 Bilder in der Standardstufe in East US; ein Textdatensatz sind 1,000 Zeichen, 7,500 Zeichen werden also als 8 berechnet. Commitment-Stufen beginnen bei $338/Monat für 1M Textdatensätze.
- Ist Azure AI Content Safety sicher für Firmendaten?
- Microsoft sagt, Eingaben würden nicht gespeichert, nicht zum Training oder zur Verbesserung seiner Modelle genutzt und nicht für menschliche Prüfung bereitgestellt; die Daten bleiben in der gewählten Region, wobei manche Funktionen globales oder Datenzonen-Routing brauchen. Sperrlisten werden verschlüsselt in deiner Region gespeichert. Kundenseitig verwaltete Schlüssel werden unterstützt.
- Was sind die besten Alternativen zu Azure AI Content Safety?
- Die nächsten Alternativen, die wir getestet haben, sind Google Model Armor, Lakera Guard (Check Point AI Guardrails) und Amazon Bedrock.
Antworten geprüft am 6. Nov. 2026.
Du entwickelst Azure AI Content Safety? Zeig diese Bewertung auf deiner Website
