Les parents qui se demandent si ChatGPT est sûr pour leurs enfants disposaient de peu d'éléments indépendants. La dernière initiative d'OpenAI vise ce manque : l'entreprise a promis 2 millions de dollars à un réseau de recherche qui étudie l'effet de l'IA sur la sécurité, le bien-être et le développement des enfants, et a signé au Forum de Paris sur la Paix une charte pour une IA plus sûre pour les enfants. La somme est faible pour OpenAI, mais savoir qui mesure les dommages, et comment, concerne toutes les familles qui utilisent ces outils.
Les détails viennent de la couverture de l'annonce, la page d'OpenAI n'ayant pas pu être consultée. Le financement va au réseau de recherche de la Coalition pour les droits et la protection de l'enfant à l'ère de l'IA, une initiative menée par la France, et sert à un travail de mesure commun : des outils permettant aux chercheurs d'évaluer risques et opportunités de façon comparable. Selon les comptes rendus, OpenAI a indiqué que les chercheurs indépendants garderont la maîtrise de leurs résultats, y compris négatifs ou non concluants, et que le financement de la recherche doit s'accompagner de protections juridiques renforcées pour les enfants qui utilisent des produits d'IA. Elle n'a nommé ni bénéficiaires ni calendrier de versement.
L'engagement s'inscrit dans un ensemble plus large. Le Forum de Paris sur la Paix a indiqué que des développeurs d'IA, dont OpenAI et Anthropic, avec des organisations de protection de l'enfance, engageraient 8 millions d'euros, soit environ 8,9 millions de dollars, pour la recherche sur l'IA et le développement de l'enfant. Anthropic, Microsoft et Black Forest Labs ont aussi soutenu la charte. Par ailleurs, plus de 50 pays ont appuyé une Déclaration Children First couvrant santé, éducation, protection et bien-être à l'ère numérique, avec des objectifs pour 2045, et le président Emmanuel Macron a déclaré qu'aucune IA ne devrait atteindre les enfants sans avoir été testée, évaluée et autorisée.
Le fond de l'affaire est l'écart entre le discours et le dispositif. Tech Times relève qu'aucun compte rendu ne dit qui réaliserait les tests ni qui pourrait refuser une autorisation, que l'Élysée qualifie les engagements de volontaires et que les entreprises dont les produits seraient testés figurent parmi les financeurs de la recherche. Des évaluateurs indépendants ont soutenu, dans une lettre signée par plus de 100 personnes, qu'un contrôle crédible exige des évaluateurs que les laboratoires ne possèdent ni ne contrôlent.
Reste à savoir si cela changera les produits. ChatGPT, Gemini et Claude sont utilisés par des adolescents, et aucun ne publie aujourd'hui de résultats de tests propres aux enfants qu'un parent pourrait consulter. Tant qu'il n'existe ni norme ni organisme d'agrément, un réseau de recherche financé est un début de preuves, pas une garantie de sécurité.