Pais que se perguntam se o ChatGPT é seguro para os filhos tinham poucas evidências independentes. O passo mais recente da OpenAI mira essa lacuna: ela prometeu US$ 2 milhões a uma rede de pesquisa que estuda como a IA afeta a segurança, o bem-estar e o desenvolvimento das crianças, e assinou no Fórum de Paris sobre a Paz uma carta sobre IA mais segura para crianças. É pouco dinheiro para a OpenAI, mas quem mede o dano, e como, importa para toda família que usa essas ferramentas.
Os detalhes vêm da cobertura do anúncio, já que a página da própria OpenAI não pôde ser lida. O dinheiro vai para a rede de pesquisa da Coalizão pelos Direitos e pela Proteção da Criança na Era da IA, uma iniciativa liderada pela França, e se destina a trabalho de medição compartilhado: ferramentas que permitam a pesquisadores avaliar riscos e oportunidades de forma comparável. Segundo os relatos, a OpenAI afirmou que pesquisadores independentes vão manter o controle dos resultados, inclusive os negativos ou inconclusivos, e que o financiamento de pesquisa deve vir acompanhado de proteções legais mais fortes para crianças que usam produtos de IA. Ela não divulgou os beneficiários nem um cronograma de pagamentos.
A promessa faz parte de um pacote maior. O Fórum de Paris sobre a Paz disse que desenvolvedores de IA como OpenAI e Anthropic, junto com organizações de proteção infantil, vão comprometer 8 milhões de euros, cerca de US$ 8,9 milhões, com pesquisa sobre IA e desenvolvimento infantil. Anthropic, Microsoft e Black Forest Labs também endossaram a carta. Separadamente, mais de 50 países apoiaram uma Declaração Children First sobre saúde, educação, proteção e bem-estar na era digital, com metas para 2045, e o presidente Emmanuel Macron disse que nenhuma IA deveria chegar às crianças sem antes ser testada, avaliada e autorizada.
A distância entre o discurso e o mecanismo é a notícia. A Tech Times observa que nenhum relato diz quem faria os testes nem quem poderia negar a aprovação, que o Palácio do Eliseu descreve os compromissos como voluntários e que as empresas cujos produtos seriam testados estão entre os financiadores da pesquisa. Avaliadores independentes defenderam, numa carta assinada por mais de 100 pessoas, que uma supervisão confiável exige avaliadores que os laboratórios não possuam nem controlem.
O que não se sabe é se algo disso vai mudar os produtos. ChatGPT, Gemini e Claude são usados por adolescentes, e nenhum publica hoje resultados de testes específicos para crianças que um pai possa consultar. Enquanto não houver um padrão e um órgão aprovador, uma rede de pesquisa financiada é um começo de evidência, não uma garantia de segurança.