billion-contextとは？
billion-contextは、bili コマンドで動くローカルのHTTPプロキシで、コーディングエージェントとモデルのAPIの間に入ります。すべての会話に4つのツールを追加します。compressは古いメッセージの範囲を要約に畳み、decompressは元の内容を戻し、search_contextは畳んだ履歴を検索し、acp_statusはコンテキストウィンドウの埋まり具合を報告します。いつ呼ぶかはモデルが決め、プロキシは送信内容を書き換えて、畳んだ範囲を畳んだままにします。狙いは、コンテキストの上限に達せずに何日も続くセッションです。同時にプロンプトの先頭を安定させ、プロバイダーのプロンプトキャッシュが効き続けるようにします。
接続できるクライアントはおよそ20数種で、Claude Code、Codex、OpenCode、pi、Gemini CLI、Aider、Kimi Code、Copilot CLIなどが含まれます。方法は3つあります。クライアント内のネイティブプラグイン、プロキシとクライアントを同時に起動するランチャー（bili claude、bili codex）、そして http://localhost:8787/bili/ を指すベースURLです。ベースURLを変えられないクライアントは証明書の傍受で扱います。ランチャーがローカルの認証局をクライアントに指定し、既知のモデルホストへのTLS通信をプロキシが復号できるようにします。
TypeScriptで書かれ、npmからインストールします。保守は主に1人の開発者、ranxiangleiが担い、コミットのうち3,885件を書いています。ライセンスはMITに条項を追加したものです。利用者の目に触れる製品でこれを使う場合、ホームページ、ドキュメント、クレジットページのいずれかにリンク付きでbillion-contextを明記しなければなりません。
billion-contextは使う価値があるか？
billion-contextは現実のコストに取り組んでいます。エージェントの長いセッションはコンテキストウィンドウを埋め、エージェント自身の要約機能は細部を捨て、すべてのトークンが次のターンで再び課金されます。ここではモデル自身が古いターンを小さな範囲ごとに畳み、正確な文面が必要になれば開き直せます。会話の末尾しか変わらないため、プロバイダーのプレフィックスキャッシュは効き続けます。READMEによれば、健全なセッションのキャッシュヒット率は95から97%です。
根拠はこの分野の多くのプロジェクトより充実していますが、プロジェクトの内側から出たものです。作者の論文は、3台のマシンで4.5か月使い、174,327回のモデル呼び出しと18.76Bの入力トークンを処理して、204,800トークンのウィンドウを一度も超えなかったと報告しています。2026年10月31日にリポジトリへ追加された、独立と銘打つ1,500項目の評価では、LongMemEval-Sでbillion-contextが79.20%、完全なコンテキストが83.20%、最良の検索構成が62.60%で、費用は$7.97に対して$2.30でした。誰が実施したのか、またその人たちがプロジェクトと無関係なのかは確認できませんでした。
セキュリティ面は、インストール前に全体を読む必要があります。すべてのプロンプト、エージェントが読むファイル、APIキーがプロキシを通ります。認証はありません。既定では127.0.0.1で待ち受けますが、bili --host 0.0.0.0 とDockerイメージはネットワーク上で待ち受け、README自身も信頼できるネットワークでのみそうするよう勧めています。ベースURLを設定できないクライアントでは、ランチャーがプロキシ自身の認証局をクライアントに指定し、許可リストにあるモデルホストへの暗号化通信を読めるようにします。デバッグモードはクライアントのヘッダーを記録し、セッションの状態は ~/.local/share/billion-context に保存されます。
さらに、自分自身を書き換えます。プロキシは起動時と3分ごとにnpmを確認し、新しい版をその場でインストールします。適用はリリースから15分から48時間の間のランダムな時点に分散され、動作中のプロセスは再起動時に新しい版を読み込みます。別の通知チャネルも同じ間隔で確認され、自動更新を切っていても、advisoryCheckをfalseにしない限り、特定の版、つまり以前の版への巻き戻しも含めて強制インストールできます。壊れたリリースを素早く直すには妥当な設計ですが、プロンプトに機密を含む人にはサプライチェーン上のリスクです。プロジェクトは2026年8月以降に0.1.213までの版を出しており、この速さなら版を固定するのが賢明です。
より控えめな代替は、クライアント自身に圧縮を任せ、通信を直接のままにすることです。context-modeとrtkは、通信路に入らずにウィンドウへ入る量を減らします。billion-contextはさらに踏み込み、対応クライアントも多いのですが、置き場所は自動更新と通知を切った個人のマシンです。共有サーバーや本番の認証情報の近くではありません。
真価を発揮する場面
大規模なリファクタリングでClaude Codeのセッションを何日も開いたままにする個人開発者
再起動してコードベースを説明し直すことなく、セッションを続けたい
bili claude を実行すると、プロキシがクライアントと一緒に起動します。ウィンドウが埋まるにつれ古いターンが畳まれ、正確な文面が必要なときはdecompressで開き直されます。自動更新と通知の確認を切り、/acp-cache でキャッシュヒット率を見て、トークン費用が本当に下がるか確かめます。
長期稼働エージェントの記憶手法を比較する研究者
公開ベンチマークで、モデル主導の圧縮と単純な検索を比べたい
リポジトリには、LongMemEval-S、ContextBench、MemoryAgentBenchによる1,500項目の評価があり、DeepSeek V4.1 Flashとv0.1.202で実行されています。79.20%とF1 0.3097という数字は、頼る前に再実行して確かめるのが筋です。
導入前に確認すること
- 導入
- npm install -g billion-context --prefix=~/.local の後、bili plugin install <client>、ランチャーとしての bili <client>、またはベースURL http://localhost:8787/bili/<upstream> の いずれかを使います。SQLiteストレージのためにNode 22以降が必要で、Dockerfileも同梱されています。
- 連携
- Claude Code、Codex、OpenCode、pi、omp、Gemini CLI、Qwen Code、Kimi Code、Aider、Copilot CLI、Amp、Kiro、Crush、Zed、goose、Hermesなどに、Anthropic Messages、OpenAI Chat Completions、Responsesの形式で対応します。/bili/ プレフィックスで別のローカルゲートウェイの前段にも置けます。
- データとプライバシー
- すべてのプロンプトと認証情報がプロキシを通ります。保存するのはキーそのものではなく12文字のハッシュです。ログは ~/.local/state/billion-context/bili.log、セッション状態は ~/.local/share/billion-context に置かれます。認証はなく、--host を指定しない限り127.0.0.1で待ち受けますが、Dockerイメージは0.0.0.0:8787で待ち受けます。3分ごとにnpmで更新と通知パッケージを確認し、GitHubリポジトリからお知らせを取得します。
- 大規模利用時のコスト
- ソフトウェアは無料で、節約額はセッション次第です。プロジェクトの評価では、独立セッションあたりの費用がLongMemEval-Sで$7.97から$2.30に、ContextBenchで58.3%下がりました。DeepSeek V4.1 Flashの入力料金は1Mトークンあたり$0.15です。
- 制限
- 要約では細部が失われ、LongMemEval-Sの精 度は完全なコンテキストより4ポイント低くなりました。リリースが頻繁で、未解決のissueとプルリクエストが1,081件あり、主な保守者は1人です。プラグインモードとランチャーモードを同時に有効にすると、圧縮が二重にかかります。
良い点
- 古いターンを切り捨てず、モデル自身が畳んだり開き直したりする
- プロンプトの先頭を安定させるので、プロバイダーのキャッシュが効き続ける
- プラグイン、ランチャー、ベースURLで約20数種のエージェントに対応
- 長期の利用データと1,500項目の評価を公開
気になる点
- すべてのプロンプトとAPIキーが認証なしで通過する
- 既定で3分ごとにnpmから自動更新し、通知で版を強制される場合がある
- 一部のクライアントはローカル認証局によるTLS傍受が必要
- 利用者に見えるものにはMITに加えて帰属表示の条項がかかる
おすすめの人
自分のマシンでコーディングエージェントのとても長いセッションを回し、版の固定とプロキシの動作確認をいとわない個人の開発者。
billion-contextの代替
billion-context：よくある質問
- billion-contextは使う価値があるか？
- コンテキスト切れに悩むエージェントへの巧みな解決策ですが、送るプロンプトとキーをすべて見る、認証なしで自動更新されるプロキシとして届くため、多くのチームが与えるべき以上の信頼を求めます。 評価は5点満点中3.4点です。
- billion-contextの料金は？
- 無料のオープンソースです（MITに帰属表示の条項を追加）。プロキシが転送するトークンの料金は、引き続きモデルのプロバイダーに支払います。
- billion-contextの欠点は？
- すべてのプロンプトとAPIキーが認証なしで通過する; 既定で3分ごとにnpmから自動更新し、通知で版を強制される場合がある; 一部のクライアントはローカル認証局によるTLS傍受が必要; 利用者に見えるものにはMITに加えて帰属表示の条項がかかる.
- billion-contextは誰に向いているか？
- 自分のマシンでコーディングエージェントのとても長いセッションを回し、版の固定とプロキシの動作確認をいとわない個人の開発者。
- チームや本番環境 でbillion-contextを使うと費用はいくらか？
- ソフトウェアは無料で、節約額はセッション次第です。プロジェクトの評価では、独立セッションあたりの費用がLongMemEval-Sで$7.97から$2.30に、ContextBenchで58.3%下がりました。DeepSeek V4.1 Flashの入力料金は1Mトークンあたり$0.15です。
- billion-contextは企業データを扱っても安全か？
- すべてのプロンプトと認証情報がプロキシを通ります。保存するのはキーそのものではなく12文字のハッシュです。ログは ~/.local/state/billion-context/bili.log、セッション状態は ~/.local/share/billion-context に置かれます。認証はなく、--host を指定しない限り127.0.0.1で待ち受けますが、Dockerイメージは0.0.0.0:8787で待ち受けます。3分ごとにnpmで更新と通知パッケージを確認し、GitHubリポジトリからお知らせを取得します。
- billion-contextの代わりになるものは？
- 当サイトでレビューした中で最も近い代替はcontext-mode, rtk (Rust Token Killer) 、 Claude Code Routerです。
回答確認日：2026年11月13日