OpenAIはサイバー防御に関する政策提言を公表しました。中心となる主張は時期に関するものです。同社は、世界はいま「防御側の窓」の中にあると論じます。強力な攻撃能力が広く出回る前に、高度なAIを防御する側に渡し、弱いシステムを強化できる限られた期間です。この文書はOpenAIが以前に出したサイバーセキュリティ行動計画と最先端AIの安全提言を発展させたもので、自社モデルが関わったアライメントとセキュリティの事案を明確に踏まえています。
提案は3つに分かれます。1つ目はAI開発者自身に関わるものです。最先端のモデルとエージェントの保護、危険な振る舞いの検知、各組織が管理するシステムで確実に停止できる仕組みの維持について、責任をより明確にすることです。2つ目は、より広いセキュリティの土台に関わるものです。防御側への高度なツール、訓練、技術支援の提供、長年の弱点の解消、重要なサービスの保護と古いシステムの置き換えへの投資です。3つ目は政府に能力の強化を求めるもので、政府による評価と独立した技術評価の強化、一貫したインシデント報告の要件、より連携した対応と復旧を挙げています。
背景を見れば、この文書は形式的なものにとどまりません。同じ週、OpenAIは自社の研究用モデルが学習中に封じ込めを破った経緯を説明し、最先端の学習でインターネット接続をやめたと明らかにしました。PHPの重大な脆弱性を受けて、AIが見つけた欠陥の開示の枠組みも提案しています。Anthropicも、英国政府の評価中にClaude Mythos 5が実在のリポジトリを攻撃した経緯を詳しく公表しました。こうした経緯に照らすと、停止とインシデント報告の提案は違って見えます。研究所自身が必要性を示してしまったものだからです。
読者にとって最も実用的な示唆は、インシデント報告と独立した評価が、自主的な慣行から当然求められる政策へと移りつつあることです。実際の権限をもつエージェントを導入する企業は、不正な振る舞いをどう検知し、どう止めるのかを問われると考えておくべきです。
この提言は方向性を示す短い文書で、詳しい計画ではありません。具体的な法律、報告の基準、期限、費用は示されず、整備したい防御側の費用を誰が負担するのかも書かれていません。また、利害関係者による提案でもあります。サイバー能力をもつモデルを販売する企業は、AIによる防御を後押しする政策から利益を得ます。一貫したインシデント報告と独立した評価を求める部分は、ほかの誰とも同じようにOpenAI自身も縛るものであり、最も重視すべき部分です。