ChatGPTが子どもにとって安全かどうか知りたい保護者には、これまで独立した根拠がほとんどありませんでした。OpenAIの最新の動きはこの空白を狙ったものです。AIが子どもの安全、心身の健康、発達にどう影響するかを研究するネットワークに200万ドルを拠出すると約束し、パリ平和フォーラムで子ども向けのより安全なAIに関する憲章に署名しました。OpenAIにとっては小さな額ですが、誰がどのように害を測るのかは、これらのツールを使うすべての家庭に関わる問題です。
OpenAI自身のページは読めなかったため、詳細は発表を伝えた報道によります。資金はフランス主導の取り組みである「AI時代の子どもの権利と保護のための連合」の研究ネットワークに充てられ、研究者がリスクと機会を比較できる形で評価するための共通の測定ツールづくりに使われます。報道によると、OpenAIは、否定的な結果や結論の出ない結果も含め、独立した研究者が成果の扱いを決めるとし、研究資金の提供とあわせてAI製品を使う子どもへの法的保護も強化すべきだと述べました。助成先や支払いの日程は明らかにしていません。
この約束はより大きな枠組みの一部です。パリ平和フォーラムは、OpenAIやAnthropicなどのAI開発企業が子どもの安全に取り組む団体とともに、AIと子どもの発達に関する研究に800万ユーロ、約890万ドルを拠出すると発表しました。Anthropic、Microsoft、Black Forest Labsも憲章を支持しました。これとは別に、50を超える国が、デジタル時代の健康、教育、保護、心身の健康を対象とし2045年を目標年とするChildren First Declarationを支持しま した。Emmanuel Macron大統領は、試験、評価、承認を経ないAIを子どもに届けるべきではないと述べました。
肝心なのは、言葉と仕組みの間の隔たりです。Tech Timesは、誰が試験を行い、誰が承認を拒めるのかを示した報道は一つもなく、エリゼ宮はこれらの約束を任意のものと説明しており、試験される製品の企業が研究の資金提供者に含まれていると指摘しています。独立した評価者たちは、100人を超える人が署名した書簡で、信頼できる監督には研究所が所有も支配もしない評価者が必要だと訴えています。
これが製品を変えるかどうかはわかりません。ChatGPT、Gemini、Claudeはいずれも10代に使われていますが、保護者が確認できる子ども向けの試験結果を公表しているものは今のところありません。基準と承認機関ができるまでは、資金を得た研究ネットワークは根拠づくりの第一歩であって、安全の保証ではありません。