OpenAIは、AIシステムがLinuxカーネルの欠陥を、人間が修正するよりも速く見つけて攻撃手段に変えられるようになったことを示しました。同社のセキュリティチームは、未公開のサイバー向けモデルを中核にした研究用パイプラインを、一般ユーザーが到達できるカーネルの部分に対して実行し、通常のアカウントをrootに昇格させる948通りの異なる方法を見つけました。Linuxサーバー、Androidスマートフォン、クラウドのマシンを使う人は皆この結果の影響を受けます。だからこそ、見出しの数字よりもパッチの方が重要です。
パイプラインは5つの段階からなります。スカウトエージェントが3,426ドルで5,034件の監査対象を選びました。これは4,000万行を超えるカーネルの約7%にあたります。次にアナリストエージェントが12時間と316,549ドルをかけて2,308件の欠陥候補を出しました。トリアージエージェントは30時間以内にそのうち1,724件を仮想マシン上で再現し、OpenAIによれば、モデルの誤った推論にもとづく候補は3.1%にとどまりました。エクスプロイトエージェントは、通常のカーネル保護を有効にした標準的なデスクトップ構成を相手に、動作するroot取得エクスプロイトを1,169件作り、バリアント分析でそれを948件の別個の欠陥に絞り込みました。10月の実行全体のAPIクレジット費用は1,213,430ドルで、成功したエクスプロイト1件あたりの平均は約359ドルでした。
より鋭い指標は7月との比較です。同じパイプラインの以前の版で動かしたGPT-5.6 Solは、この種の欠陥を166件見つけました。3か月後の新しいモデルはその5倍以上を見つけ、OpenAIによると、外部のカーネル専門家が見たことのない攻撃手法を10種類使っていました。OpenAI自身の試算では、過去のバグ報奨金の相場と比べてこのパイプラインは採算が取れています。これは自慢であると同時に警告でもあります。同じ経済性は攻撃者にも当てはまるからです。この能力の制限付き版は、OpenAIが審査を通った防御側にだけ販売するGPT-6 Cyberとしてレビューしています。
ここまでの対応は心強いものです。10日後には、root取得につながる欠陥のうち61件の修正がupstreamに取り込まれ、43件のパッチが準備段階にあり、299件が公開で議論されていました。残りはPatch the Planetのパートナーを通じて送るとOpenAIは述べています。それでも、何百もの既知の穴が、モデルのようには人数が増えていないボランティアや企業のメンテナーの手に残ります。
外部から確かめられることには限りがあります。OpenAIは公表する数字を選び、新しい手法は安全上の理由で伏せ、モデル名も明かしていません。機械が書いたパッチは、肥大化したり不完全になったりしないよう追加の指示を何度も必要としました。また初期の実行では、報告された200件のエクスプロイトのうち20件が、割り当てられたものとは別の欠陥を通じてrootに到達していました。費用の数字はOpenAI自身の説明でも上限値であり、この作業の価格は下がる一方でしょう。