Guardrails AIとは？
Guardrails は、モデルの呼び出しを Guard で包む Python ライブラリです。Guard はバリデーターの連鎖で、入力と出力について PII、有害な言葉、競合他社への言及、壊れた構造などの問題を調べ、ブロック、修正、ま たは再質問を行います。LLM から構造化データを取り出す手助けもします。
プロジェクトは終息に向かっています。法律 AI 企業の Harvey が 2026年9月9日に Guardrails AI を買収し、創業者たちは Harvey のプロダクトチームに加わりました。その 2 週間前の 2026年8月25日には、Guardrails Hub のインストーラー、プライベートのバリデーターレジストリ、無料のホスト型推論サーバーが停止されました。バリデーターは現在 PyPI 上の個別の guardrails-ai-<name> パッケージになり、モデルが必要なものはローカルか自前のエンドポイントで動かす必要があります。main ブランチへの最後のコミットは 2026年8月26日、最後のリリース 0.11.0 は 2026年8月14日でした。
2026年5月には、攻撃者が悪意のある guardrails-ai 0.10.1 を PyPI に公開しました。約 2 時間で隔離されましたが、これをインストールした人は、そのマシンが侵害されたものとして扱うよう求められています。
Guardrails AIは使う価値があるか？
Guardrails AI を新しいプロジェクトに勧めるのは難しいです。ライブラリは今も動き、Apache 2.0 ですが、便利さを支えていた部分はなくなりました。Hub のインストーラーと無料のホスト型推論は 2026年8月25日に終了し、その 2 週間後に Harvey が会社を買収しましたが、Harvey の発表はライブラリの今後に触れていません。8月26日以降、main には何もマージされていません。再質問時のクラッシュや再質問の予算がゼロの場合を直すコミュニティの修正、pyjwt と urllib3 に関するセキュリティボットのプルリクエストは、未解決のままか、マージされずに閉じられました。
アイデア自体は今も堅実です。バリデーターはモデル呼び出しの周りに積み重ねる小さくテスト可能なチェックで、Harvey によるとフレームワークは月に 250,000 回以上ダウンロードされています。正規表現のパターン、JSON スキーマ、長さの制限といった決定論的なチェックでは、ネットワークに依存せずに今も役目を果たします。
サプライチェーンには注意が必要です。悪意のある 0.10.1 が 2026年5月11日に PyPI に公開され、約 2 時間後に隔離されました。メンテナーは、これをインストールしたマシンのすべての認証情報を入れ替えるよう勧めました。バリデーターは今や何十もの個別の PyPI パッケージとして届き、それぞれがバージョンを固定して監査すべき依存関係です。さらにパッケージは、guardrails configure --disable-metrics を実行するまで、匿名の利用指標をデフォルトでオンにし、OpenTelemetry で AWS のエンドポイントに送ります。
停止の影響が大きいのはモデルベースのバリデーターです。Guardrails のサーバーで動いていた PII、有害性、競合他社のチェックには、今や use_local=True か自前の推論エンドポイントが必要です。そうなると、Llama Prompt Guard 2 のような専用の分類器を直接呼ぶか、活発に開発されている NeMo Guardrails に移る方が、抱えるコードは少なくて済みます。
真価を発揮する場面
請求データの抽出サービスをすでに Guardrails で包んでいるバックエンドエンジニア
Hub の停止後も正規表現と JSON スキーマのチェックを動かし続ける
guardrails-ai==0.11.0 に固定し、guardrails hub install を pip install guardrails-ai-<name> に置き換え、import を guardrails_ai の名前空間に変え、指標を無効にします。そうすれば決定論的なバリデーターはネットワーク呼び出しなしで動きます。リスクは、今後の修正を自分で行う必要があることです。
ホスト型の PII 検出に頼っていた 50 人規模のフィンテックの ML エンジニア
8月25日に動かなくなった PII バリデーターを置き換える
use_local=True を設定してモデルを自分のハードウェアにダウンロードして動かすか、validation_endpoint をセルフホストのサービスに向けます。どちらにしても、かつて Guardrails が無料で提供していた計算資源の費用を、今は自分で払うことになります。
AI 製品の依存関係ツリーを監査するセキュリティ責任者
Guardrails を本番に残せるかどうかを判断する
0.10.1 を取り込んだビルドがないことを確認し、もしあれば認証情報を入れ替えます。そのうえで、何十ものバリデーターパッケージを伴う保守されていない依存関係と、チェックを NeMo Guardrails や分類器の直接呼び出しに移すことを比べます。
導入前に確認するこ と
- 導入
- Python 3.10〜3.13 で pip install guardrails-ai を実行し（3.14 には非対応）、続いて各バリデーターを guardrails-ai-<name> として pip install します。Guard をサービスとして動かすための、Flask ベースの guardrails start サーバーもあります。
- 連携
- OpenAI と LiteLLM が対応するモデル呼び出しを包み、構造化出力には Pydantic のモデルを使い、OpenAI 互換のサーバーモードもあります。トレースは OpenTelemetry で書き出せます。
- データとプライバシー
- 匿名の利用指標はデフォルトで有効で、AWS でホストされた OTLP エンドポイントに送られます。guardrails configure --disable-metrics でオフにできます。モデルベースのバリデーターは、ローカルで動かせば何も送りません。重大なアドバイザリーが 1 件あり、2026年5月11日の悪意のある PyPI リリース 0.10.1 です。
- 大規模利用時のコスト
- ライブラリは無料で、有料版はもうありません。モデルベースのバリデーターには今や自前の CPU か GPU、または自分でホストする推論エンドポイントが必要です。
- 制限
- 2026年8月26日以降 main へのマージはありません。未解決の issue とプルリクエストは 65 件で、出力全体を対象にするバリデーターでの再質問時のクラッシュも含まれます。Hub の変更が発表された時点で、64 のバリデーターのうち 50 が PyPI に移されていました。
良い点
- シンプルな Guard とバリデーターのモデル
- Apache 2.0 ライセンス
- 決定論的なバリデーターは完全にオフラインで動く
気になる点
- Hub とホスト型推論は 2026年8月25日に停止
- 2026年8月26日以降、main に何もマージされていない
- 2026年5月に悪意のある 0.10.1 が PyPI に公開された
- 匿名の利用指標がデフォルトでオン
おすすめの人
決定論的なバリデーターを使っていて、バージョンを固定し、自分でパッチを当てられる既存のユーザー。
Guardrails AIの代替
Guardrails AI：よくある質問
- Guardrails AIは使う価値があるか？
- 持ち主を失った堅実なアイデアです。Apache 2.0 のコードは今も動きますが、修正をマージする人はおらず、ホスト型の部分はなくなりました。 評価は5点満点中3.2点です。
- Guardrails AIの料金は？
- Apache 2.0 の下で無料のオープンソースです。ホスト型の Hub レジストリと無料のリモート推論は 2026年8月25日に終了しました。
- Guardrails AIの欠点は？
- Hub とホスト型推論は 2026年8月25日に停止; 2026年8月26日以降、main に何もマージされていない; 2026年5月に悪意のある 0.10.1 が PyPI に公開された; 匿名の利用指標がデフォルトでオン.
- Guardrails AIは誰に向いているか？
- 決定論的なバリデーターを使っていて、バージョンを固定し、自分でパッチを当てられる既存のユーザー。
- チームや本番環境でGuardrails AIを使うと費用はいくらか？
- ライブラリは無料で、有料版はもうありません。モデルベースのバリデーターには今や自前の CPU か GPU、または自分でホストする推論エンドポイントが必要です。
- Guardrails AIは企業データを扱っても安全か？
- 匿名の利用指標はデフォルトで有効で、AWS でホストされた OTLP エンドポイントに送られます。guardrails configure --disable-metrics でオフにできます。モデルベースのバリデーターは、ローカルで動かせば何も送りません。重大なアドバイザリーが 1 件あり、2026年5月11日の悪意のある PyPI リリース 0.10.1 です。
- Guardrails AIの代わりになるものは？
- 当サイトでレビューした中で最も近い代替はNVIDIA NeMo Guardrails 、 promptfooです。
回答確認日：2026年10月26日