選び方
- セルフホストとオープンソース：トレースを自社のインフラに保持します。
- すでにLangChainやLangGraphを使っている：それら向けに作られたホスト型トレーサー。
- ユーザー別・機能別のコストダッシュボード：支出を記録するゲートウェイ。
確認すべきポイント
選択肢を分けるポイントを、重要な順に並べています。
01
入力も出力もOpenTelemetryで
計装は後から変えるのに費用がかかる部分なので、標準のOpenTelemetryのスパンを出力し、バックエンドを差し替えられるようにしておきましょう。ツールがOpenTelemetryを受け付けるか（Langfuse、Opik、LangSmith、Braintrust、Weaveはすべて受け付けます）、それを土台に作られているか（OpenInferenceを使うArize Phoenix）、どのLLMの属性の規約を最もよく読めるかを確認してください。OpenTelemetryのエコシステムには、OpenInferenceとOpenLLMetryの両方の規約があります。
02
セルフホストかSaaSか、ライセンスが何を認めるか
トレースには、プロンプト、文書、回答が含まれ、多くの場合顧客のデータも含まれます。Langfuse（コアはMITで、ee/フォルダは商用）とOpik（全体がApache 2.0）は無料でセルフホストできます。Phoenixもできますが、Elastic License 2.0は他者へのホスト型サービスとしての提供を禁じています。LangSmith、Braintrust、Weaveは、セルフホストをEnterpriseの契約にとどめています。セルフホストはClickHouseやPostgresのようなデータベースの運用を意味するので、運用の時間も見込んでください。
03
保存期間と個人情報の管理
無料のクラウドプランはデータを14〜60日保持します。より長い保存期間はほぼどこでも有料の追加機能で、LangSmithは2026年9月に拡張トレースの保存期間を180日に短縮しました。プロンプトに個人データが含まれるなら、アップロード前のクライアント側での墨消し（BraintrustのSDKが対応）、サーバー側でのマスキング（Langfuseでは有料）、プロジェクトごとの保存ポリシーを確認し、データ処理契約がベンダーをカバーしていることを確かめてください。
04
ユーザー別・機能別の費用の追跡
オブザーバビリティは、ほとんどのチームがどの費用を削るべきかを見つける手段です。ツールがスパンごとにトークン数と費用を記録し、キャッシュされたトークンを含めてモデルの価格を正しく計算し、ユーザー、機能、タグごとに支出をまとめられるかを確認してください。すでにゲ ートウェイ経由で呼び出しているなら、その支出のログで、別のトレーサーなしにこれをまかなえるかもしれません。
05
どう課金されるか
価格の単位がさまざまなので、見積もりを比べにくくなっています。Langfuseはユニット、OpikとArizeはスパン、LangSmithはトレースとシート、Braintrustは処理したギガバイトとスコア、Weaveは少しの無料枠を超えた取り込みをメガバイト単位で課金します。選ぶ前に、大きなプロンプトやツールの出力を含めた現実的な1か月分のトラフィックを、各ベンダーの単位で見積もりましょう。
06
評価とプロンプト管理を同じ場所で
最良のフィードバックループは、本番の悪いトレースをデータセットの項目とデグレードテストに変えます。Langfuse、Opik、Phoenix、LangSmith、Braintrustはすべて、トレーシングとデータセット、LLMによる判定、プロンプトのバージョン管理を組み合わせています。OpenLLMetryは計装専用で、それらすべてにバックエンドが必要です。
07
エージェントを意識したトレースの表示
エージェントのトレースは、モデル呼び出し、ツール呼び出し、サブエージェントからなる深い木構造です。平らなスパンだ けでなく、セッションとターンを表示できるビューと、使っているフレームワークとのネイティブな連携を探しましょう。LangGraphにはLangSmith、OpenAI Agents SDK、Claude Agent SDK、Google ADKにはWeaveの1行のパッチ、そして幅広いフレームワークへの対応ならLangfuseとPhoenixです。
08
所有者とロードマップのリスク
ここに挙げたほぼすべてのベンダーが、最近所有者を変えています。ClickHouseがLangfuseを、DynatraceがArizeを、ServiceNowがTraceloopを買収し、CoreWeaveはWeights & Biasesを所有してAgent LensをWeaveの後継と呼び、HeliconeはMintlifyに買収された後メンテナンスモードに入りました。標準の計装が保険になります。
選択肢の違い
ここには3種類のツールがあります。オープンソースのプラットフォーム（Langfuse、Opik、Arize Phoenix）は、トレースを保存・表示し、評価を実行し、プロンプトを管理します。無料でセルフホストすることも、クラウドサービスとして購入することもできます。主な違いは、ライセンス、エコシステムの規模、価格の単位です。ホスト型のプラットフォーム（LangSmith、Braintrust、W&B Weave）は、同じ中核をベンダーが運用するサービスとして提供し、特定のフレームワークやワークフローとより深く結びつき、セルフホストはEnterpriseプランでのみ可能です。計装のライブラリ（OpenLLMetry）はOpenTelemetryのスパンを生成するだけで、DatadogやGrafanaのような汎用のAPMツールを含め、選んだバックエンドに送ります。
汎用のエラー監視やインフラ監視（Sentry、Grafana）はこれらのツールを補いますが、LLMを意識したトレースの表示の代わりにはなりません。かつて人気だったプロキシ型の選択肢Heliconeは、2026年3月からメンテナンスモードで、新しいプロジェクトにはおすすめしません。
11 個のツールを比較
当サイトの評価順です。各レビューで出典、料金、評価の詳細を確認できます。
| ツール | 評価 | 当サイトの評価 | 向いている用途 | 料金 |
|---|---|---|---|---|
| Langfuseリポジトリ | 4.6/5 | 完全に自分のものにできる、フレームワークを問わない LLM のトレーシングです。無料のセルフホスト版でほぼすべてをまかなえ、クラウドはユニット単位まで料金が明示されています。 | 無料でセルフホストするか、手頃な価格のクラウドサービスとして買える、フレームワークを問わないトレーシングと評価を求めるチーム。 | MIT の無料のオープンソースで、ee/ フォルダーのみ商用ライセンスです。Cloud は Hobby が無料（月 50k ユニット）、Core が月額 $29、Pro が月額 $199（Teams アドオンは +$300）、Enterprise が月額 $2,499 です。超過分は 100k ユニットあたり $8 で、50M を超えると $6 に下がります。 |
| MLflowリポジトリ | 4.4/5 | ML 実験を記録する定番の場所であり続け、今では LLM のトレースと評価も無料で付いてきます。ほかの誰かが届く前にサーバーを固めてください。 | モデルを学習させ、LLM 機能も作る Python チームで、その両方を無料のセルフホスト型の記録システム 1 つにまとめたい人たち。 | Apache-2.0 の無料オープンソースで、費用はサーバー、データベース、オブジェクトストレージだけです。Databricks のマネージド MLflow には個別の定価がなく、Databricks の計算量で課金されます。Free Edition は個人利用のみです。 |
| Braintrustツール | 4.3/5 | Braintrustは、直前の変更で製品が良くなったかどうかが一番難しい問いになっているチームのためのものです。人数ではなくデータ量で課金するため、大きなチームには合い、大量にログを書くエージェントには痛手になります。 | ホスト型のトレースを使った評価駆動の開発を望み、マネージドサービスにお金を払うことをいとわないプロダクトチーム。 | Starterは無料（データ1 GB、スコア10k件、$10分のモデルクレジット、保持期間14日、ユーザー数無制限。超過分は1 GBあたり$4、1,000スコアあたり$2.50）。Proは月$249（5 GB、スコア50k件、$100分のモデルクレジット、保持期間30日。超過分は1 GBあたり$3、1,000スコアあたり$1.50）。EnterpriseはSAML、BAA、セルフホストのデータプレーン付きで個別見積もり。条件を満たすスタートアップは6〜12か月間Proが無料です。 |
| Arize Phoenixリポジトリ | 4.2/5 | Phoenix はオープンなトレースツールの中で最も強力な評価ループを持っていますが、法務チームが話し合いたくなるライセンスと所有者がついてきます。 | ノート PC から始められる、強力な評価ループを備えた標準ベースのトレースを求めるエンジニアやデータサイエンティスト。 | Elastic License 2.0 のもとでセルフホストは無料です（ソース公開。他者向けのサービスとしてのホスティングは不可）。マネージドの Arize AX：Free（月 25k スパン、保持 15 日、1 GB）、Pro は月 $50（50k スパン、30 日、10 GB）、Enterprise は個別見積もりです。 |
| LangSmithツール | 4.2/5 | LangSmith は LangGraph エージェントに対して最も深く成熟したトレースと評価を提供しますが、シート単位の価格は、予算の大きな小規模チームに有利な設定です。 | LangChain や LangGraph で本番のエージェントを作り、ホスト型のトレース、評価、デプロイを 1 社にまとめたいチーム。 | Developer は無料（1 シート、月 5,000 の基本トレース）。Plus は 1 シート月 $39（10,000 の基本トレース、その後は従量課金。小規模なサーバーレスのデプロイ 1 つ付き）。Enterprise は個別見積もりで、ハイブリッドまたはセルフホストの選択肢あり。基本トレースは 14 日間、拡張トレースは 180 日間保存。 |
| Opikリポジトリ | 4.1/5 | Opikはサーバー全体をApache 2.0で無償提供し、最も安価なホスト版プランを販売していますが、セルフホスト版にはユーザーアカウントがなく、デフォルトでテレメトリを送信します。 | 寛容なライセンスを持つセルフホスト可能なトレーシングおよび評価プラットフォーム、または低コストなホスト型プラットフォームを求めるチームに適しています。 | Apache 2.0に基づく無料かつオープンソース。Cloud: Free（月間25kスパン、保持期間60日）。Proは月額$19（100kスパン、以降100kごとに$5、400日保持アドオンは100kスパンあたり$29）。Enterpriseはカスタムです。 |
| Arize AXツール | 4.1/5 | Arize AXはオープンな計測の仕組みの上で本格的なエージェントのトレースと評価を提供します。ただし安いプランはすぐに上限に達し、ロードマップは今やDynatraceのものです。 | 本番のエージェントを運用し、オープンで移行可能な計測の仕組みの上でホスト型のトレースと評価を使いたく、Enterprise契約を交渉できるエンジニアリングチーム。 | AX Freeは$0（月25,000スパン・1 GB、保持期間15日）。AX Proは月$50（50,000スパン・10 GB、保持期間30日）。EnterpriseはSSO、HIPAA、セルフホスト付きで個別見積もり。すべてのプランでユーザー数無制限です。 |
| OpenLLMetryリポジトリ | 4.1/5 | 標準的なOpenTelemetryでLLM呼び出しを一度計装すれば、バックエンドの選択肢を自由に保てます。ただし、プロンプト全文をTraceloopのクラウドへ送信する2つのデフォルト設定を最初に見直す必要があります。 | ベンダー固有のSDKを使わず、既存のオブザーバビリティ基盤でLLMトレースを取得したい、OpenTelemetryを標準採用しているチームに適しています。 | Apache 2.0に基づく無料でオープンソースのソフトウェアです。現在はServiceNowが所有するTraceloopのホスト型プラットフォームは、Freeが月間50,000スパンまで24時間の保持期間で利用可能です。Enterprise（SOC 2、オンプレミス）は 個別見積もりとなります。 |
| Datadog LLM Observabilityツール | 4.0/5 | 会社がすでにDatadogを使い込んでいるなら、エージェントを監視する場所としてはここが妥当です。モデル呼び出し単位の課金も、一見した印象より公平です。 | すでにDatadogを運用していて、エージェントのトレースをサービスやインフラの監視と並べて見たいエンジニアリングチーム。 | Freeは月40K LLMスパンまで、保持期間15日。Proは年払いで月$160から、月ごとの契約で$200、オンデマンドで$240で、100K LLMスパンを含みます。その後は10K LLMスパンごとに$3.50（年払い）、$4.20（月ごとの契約）、$5（オンデマンド）です。保持期間の追加オプションは、30日、60日、90日でそれぞれ月10Kスパンあたり$6.50、$8、$9と記載されています。課金対象はLLMスパンだけです。 |
| Splunk Agent Observabilityツール | 3.7/5 | Galileoの小型の評価モデルのおかげで、エージェントのすべての会話を安く採点できます。ただしSplunkの傘下に入り、営業との商談を経て買う企業向けの製品になりました。 | すでにSplunk Observabilityを使っていて、エージェントのすべての会話を採点し、危険な操作を実行時に阻止したい大規模な組織。 | Agent Observabilityは年1.2Mスパンあたり月$100からで年払い、年500MのLunaトークンと年5回のLunaのファインチューニングを含みます。追加のLunaトークンと保持期間の延長は見積もりです。Splunk Observability Cloud Free Edition（最大15ホスト、期限なし）にはエージェントのトレースが含まれます。Galileoの旧Free（月5,000トレース）とPro（年払いで月$100、50,000トレース）のプランは、もう公開されていません。 |
| W&B Weaveリポジトリ | 3.6/5 | Weights & Biases 上にすでにモデルが存在する場合は導入する価値がありますが、1 メガバイトあたり $0.10 という価格設定のため、新規に利用を開始する組織にとっては判断が分かれます。 | モデルのトレーニングですでに Weights & Biases を利用しており、LLM のトレースと評価を同じ場所で一元管理したいチームに適しています。 | SDK は Apache 2.0 のもとで無料です。ホスト型: Free（Weave データ取り込み 1 GB/月）。Pro は月額 $60 から（1.5 GB、超過分は $0.10/MB）。Enterprise はカスタム（超過分は $0.20/MB と記載）、Dedicated デプロイに対応します。 |
仕様の比較
このステップで重要な仕様です。2026年10月23日に確認しました。導入前に提供元のサイトで確認してください。
| ツール | 種類 | ライセンス | セルフホスト | OpenTelemetry | 無料プランの保存期間 |
|---|---|---|---|---|---|
| Langfuse | トレーシング、評価、プロンプト | コアはMIT。ee/は商用 | 無料、ほぼすべての機能 | OTelを受け付ける | 30日（Hobby） |
| Braintrust | ホスト型の評価とトレーシング | プロプライエタリ（autoevalsはMIT） | Enterpriseのみ（データプレーン） | OTelを受け付ける | 14日 |
| Arize Phoenix | トレーシング、評価、プロンプト | Elastic License 2.0 | 無料。他者向けのホスティングは不可 | OTel/OpenInferenceが土台 | 15日（Arize AX Free） |
| LangSmith | ホスト型のトレーシング、評価、デプロイ | プロプライエタリ | Enterpriseのみ | OTel を受け付ける | 14日（基本トレース） |
| Opik | トレーシング、評価、プロンプト | Apache 2.0 | 無料、クラウドと同じコードベース | OTelを受け付ける | 60日 |
| OpenLLMetry | 計装ライブラリのみ | Apache 2.0 | 自分のバックエンドを使う | OTelのスパンを出力 | バックエンド次第 |
| W&B Weave | トレーシングと評価のSDK、ホスト型 | SDKはApache 2.0 | Enterpriseの専用環境のみ | OTLPエンドポイント | 非公開 |
エージェントに接続する
Claude、ChatGPT、Cursor などのアシスタントがこれらのツールを直接使えるようにする MCP サーバーです。
このステージが使われる場面
- 文書とのチャット：まず Langfuse から始めます。
- カスタマーサポートエージェント：まず LangSmith から始めます。
- コーディングエージェント：まず Langfuse から始めます。
- リサーチとナレッジグラフ：まず Arize Phoenix から始めます。
- 長期記憶を持つアシスタント：まず Langfuse から始めます。
- 音声エージェント：まず Langfuse から始めます。
- 文書処理：まず Opik から始めます。
- 自社専用のファインチューニング済みモデル：まず Langfuse から始めます。
- ワークフロー自動化：まず Langfuse から始めます。