ChatGPT est utilisé par tant de gens que de petits changements dans sa façon de traiter les questions dangereuses touchent un très large public, raison pour laquelle le dernier durcissement de sécurité d'OpenAI mérite une lecture attentive. L'entreprise dit que ChatGPT donnera moins de détails sur les attaques de masse passées, deviendra plus prudent quand un chat récent montre des signaux d'alerte, mettra fin aux conversations fixées sur la violence et restreindra l'information pratique sur les armes pour quiconque il juge adolescent.
Les changements concrets sont précis. ChatGPT reçoit pour consigne de donner des informations moins détaillées sur les attaques de masse passées et sur ceux qui les ont commises, même là où ce détail est disponible ailleurs en ligne, avec l'objectif déclaré de ne pas aider à reconstruire une attaque ni à amplifier la notoriété d'un assaillant. Ces limites s'appliquent quel que soit l'âge de l'utilisateur. Par ailleurs, le modèle répondra de façon plus prudente quand des chats récents montrent des signaux de violence possible, et si une conversation montre que quelqu'un se fixe sur l'idée de blesser gravement une autre personne, ChatGPT peut mettre fin automatiquement au chat ; si cela se répète, le compte peut être suspendu. OpenAI dit avoir fait plus de 200 signalements aux forces de l'ordre au troisième trimestre 2026.
Pour les adolescents, les restrictions vont plus loin. OpenAI interdit déjà d'aider quiconque à planifier la violence ou à trouver des armes, et l'étend maintenant à l'information pratique sur les armes et les systèmes de sécurité susceptible d'être détournée, même sans signe d'intention violente. Les adolescents peuvent encore utiliser ChatGPT pour chercher du soutien ou aider à désamorcer une situation. L'engagement le plus utile est un Community Safety Report semestriel, le premier attendu début 2027 pour le second semestre 2026, c'est la partie sur laquelle tenir OpenAI, car des comptes de signalements sans contexte sont difficiles à juger seuls.
Le mécanisme derrière les règles pour adolescents est là où se situent les compromis. Ces protections s'appliquent non seulement aux comptes connus de moins de 18 ans, mais aux utilisateurs qu'OpenAI prédit de moins de 18 ans à partir de signaux de comportement, et la prédiction n'est pas exacte. Certains adultes seront placés par erreur dans l'expérience adolescent, et le retour passe par une vérification d'identité via Persona, le partenaire de vérification d'âge d'OpenAI. Cela corrige l'erreur mais demande à l'utilisateur de livrer des données d'identité, ce que tout le monde n'acceptera pas, de sorte que le confort d'un compte non vérifié et les limites plus strictes des adolescents sont désormais en tension.
La question ouverte honnête est l'efficacité. OpenAI ne donne aucun chiffre sur la fréquence à laquelle sa détection attrape de vraies menaces ni sur le nombre d'alertes qui s'avèrent fausses, le compte de signalements est donc un nombre sans dénominateur. Des règles plus strictes sur le détail des attaques de masse et l'information sur les armes pour adolescents sont des pas raisonnables, mais savoir si elles réduisent le préjudice de façon mesurable, et à quelle fréquence elles restreignent à tort des questions légitimes, ne se verra que lorsque le rapport de sécurité promis mettra des données derrière la politique.