Los padres que se preguntan si ChatGPT es seguro para sus hijos han contado con pocas pruebas independientes. El último paso de OpenAI apunta a ese vacío: ha prometido 2 millones de dólares a una red de investigación que estudia cómo afecta la IA a la seguridad, el bienestar y el desarrollo de los niños, y ha firmado una carta sobre una IA más segura para la infancia en el Foro de París sobre la Paz. Es poco dinero para OpenAI, pero quién mide el daño, y cómo, importa a cualquier familia que use estas herramientas.
Los detalles proceden de la cobertura del anuncio, porque no se pudo leer la página de OpenAI. La financiación va a la red de investigación de la Coalición por los Derechos y la Protección de la Infancia en la Era de la IA, una iniciativa liderada por Francia, y se destina a trabajo de medición compartido: herramientas que permitan a los investigadores evaluar riesgos y oportunidades de forma comparable. Según las informaciones, OpenAI afirmó que los investigadores independientes conservarán el control de sus resultados, incluidos los negativos o no concluyentes, y que la financiación de la investigación debe ir acompañada de protecciones legales más fuertes para los niños que usan productos de IA. No ha nombrado a los beneficiarios ni un calendario de pagos.
La promesa forma parte de un paquete más amplio. El Foro de París sobre la Paz dijo que desarrolladores de IA como OpenAI y Anthropic, junto con organizaciones de protección infantil, comprometerían 8 millones de euros, unos 8,9 millones de dólares, para investigar la IA y el desarrollo infantil. Anthropic, Microsoft y Black Forest Labs también respaldaron la carta. Por separado, más de 50 países apoyaron una Declaración Children First sobre salud, educación, protección y bienestar en la era digital, con objetivos para 2045, y el presidente Emmanuel Macron dijo que ninguna IA debería llegar a los niños sin haber sido probada, evaluada y autorizada.
La distancia entre el discurso y el mecanismo es la noticia. Tech Times señala que ninguna información dice quién haría las pruebas ni quién podría negar la aprobación, que el Elíseo describe los compromisos como voluntarios y que las empresas cuyos productos se probarían están entre quienes financian la investigación. Evaluadores independientes han defendido, en una carta firmada por más de 100 personas, que una supervisión creíble exige evaluadores que no sean propiedad de los laboratorios ni estén bajo su control.
Lo que no se sabe es si algo de esto cambiará los productos. ChatGPT, Gemini y Claude los usan adolescentes, y ninguno publica hoy resultados de pruebas específicas para menores que un padre pueda consultar. Mientras no exista una norma y un organismo que apruebe, una red de investigación financiada es un comienzo de pruebas, no una garantía de seguridad.