ChatGPT wird von so vielen Menschen genutzt, dass kleine Änderungen im Umgang mit gefährlichen Fragen ein sehr großes Publikum erreichen, weshalb OpenAIs jüngste Sicherheitsverschärfung genaues Lesen verdient. Das Unternehmen sagt, ChatGPT werde weniger Details zu früheren Massenangriffen geben, vorsichtiger werden, wenn ein jüngster Chat Warnzeichen zeigt, Gespräche beenden, die sich auf Gewalt versteifen, und praktische Waffeninformationen für jeden einschränken, den es als Jugendlichen einstuft.
Die konkreten Änderungen sind spezifisch. ChatGPT wird angewiesen, weniger detaillierte Informationen über frühere Massenangriffe und deren Täter zu geben, auch wo dieses Detail anderswo online verfügbar ist, mit dem erklärten Ziel, keinen Angriff nachbauen zu helfen oder die Bekanntheit eines Täters zu steigern. Diese Grenzen gelten unabhängig vom Alter des Nutzers. Zudem wird das Modell vorsichtiger antworten, wenn jüngste Chats Warnzeichen möglicher Gewalt zeigen, und wenn ein Gespräch zeigt, dass sich jemand darauf versteift, einem anderen ernsthaft zu schaden, kann ChatGPT den Chat automatisch beenden; wiederholt sich das, kann das Konto pausiert werden. OpenAI sagt, es habe im dritten Quartal 2026 über 200 Meldungen an Strafverfolgungsbehörden gemacht.
Für Jugendliche gehen die Einschränkungen weiter. OpenAI verbietet bereits, jemandem beim Planen von Gewalt oder Finden von Waffen zu helfen, und weitet das nun auf praktische Informationen über Waffen und Sicherheitssysteme aus, die missbraucht werden könnten, selbst ohne Zeichen von Gewaltabsicht. Jugendliche können ChatGPT weiter nutzen, um Unterstützung zu suchen oder eine Lage zu entschärfen. Die nützlichste Zusage ist ein halbjährlicher Community Safety Report, der erste Anfang 2027 für die zweite Hälfte 2026, das ist der Teil, an dem man OpenAI messen sollte, denn Meldezahlen ohne Kontext sind für sich schwer zu beurteilen.
Der Mechanismus hinter den Jugendregeln ist der Ort der Zielkonflikte. Dieser Schutz gilt nicht nur für bekannte Unter-18-Konten, sondern für Nutzer, die OpenAI anhand von Verhaltenssignalen als unter 18 einstuft, und Vorhersage ist nicht exakt. Manche Erwachsene landen irrtümlich in der Jugend-Erfahrung, und der Rückweg ist eine Identitätsprüfung über Persona, OpenAIs Altersverifizierungspartner. Das behebt den Fehler, verlangt aber, Identitätsdaten herzugeben, was nicht jeder akzeptiert, sodass die Bequemlichkeit eines unverifizierten Kontos und die strengeren Jugendgrenzen nun im Spannungsverhältnis stehen.
Die ehrliche offene Frage ist die Wirksamkeit. OpenAI nennt keine Zahlen dazu, wie oft seine Erkennung echte Bedrohungen fängt oder wie viele Warnungen falsch sind, die Meldezahl ist also eine Zahl ohne Nenner. Strengere Regeln zu Massenangriffs-Details und Jugend-Waffeninformationen sind vernünftige Schritte, aber ob sie Schaden messbar verringern und wie oft sie legitime Fragen zu Unrecht einschränken, zeigt sich erst, wenn der versprochene Sicherheitsbericht Daten hinter die Politik stellt.