AIとセキュリティに関するニュースの大半は、バグを見つける話です。AnthropicのFrontier Red Teamは、別の防御策に関する研究を公表しました。攻撃者が到達できるのに、誰も到達させる必要のないコードをClaudeで探し出し、関門の後ろに置くというものです。利点は、バグを1つ直しても残りのバグについては何も分からないのに対し、外部の人が触れられる範囲を狭めれば、ひそかに悪用されているものも含め、未知のすべての欠陥のリスクを一度に下げられることです。
チームはC、C++、Java、PHP、Pythonで書かれた25のオープンソースプロジェクト、合計500万行以上にClaudeを走らせ、3つのパターンを探しました。既定の設定で到達できるのに既定の機能はどれも使っていないコード、単独では無害でも組み合わせると危険な設定の組、そして認証の前や利用者の操作の前に動く複雑でセキュリティ上重要なコードです。Claudeは17,000を超える設定項目の一覧を作り、そのうち3,842がセキュリティに関係するもので、493件の問題を見つけました。認証済みの利用者だけに提供するはずの11のプロジェクトすべてに、ログイン前に到達できるコードがありました。最も目を引いたのは、エラーも警告も文書化もないまま受け付けられる危険な設定の組み合わせ162件で、そのうち94件ではセキュリティ機能がひそかに無効になっていました。たとえば、クライアント証明書を必須にする設定と、その確認を遅らせるだけのはずの設定を組み合わせると、実際には確認自体が無効になり、信頼できるクライアン トだけを受け入れるはずのサーバーが誰でも受け入れていました。
代表的な例はOpenSSHです。世界で最も厳しく監査されているCのコードの1つです。Claudeは10.4版で、耐量子署名方式ML-DSA-44のための新しい実験的なコード約4,500行を見つけました。このアルゴリズムは有効になっていないのに、既定の設定のまま認証前のクライアントが到達できたのです。続いて10.5版の部分的な修正に2つの穴があることも指摘しました。保守担当者は10.6版で完全な修正を出し、認証前に到達できるコードのおよそ5分の1を取り除きました。
セキュリティチームにとって、これは新たなバグ探しより長く効くAIの使い方であり、Claude Securityのようなツールが軸にしている攻撃対象領域の作業とも合致します。Anthropicはこの手法を3段階のClaudeスキルにまとめ、オープンソースのスキャナーに組み込もうとしています。
限界ははっきり述べられています。493件の問題はいずれも単独では悪用できず、扉を開けるのではなく、さらされる範囲を広げるものです。既定で到達できるコードに関門を設けると誰かの作業を壊す可能性があるため、OpenSSHの修正がそうだったように、変更ごとに保守担当者の判断が必要です。また、これはAnthropicが自ら選んだプロジェクトでの自社の結果です。