Cogとは?
Cogは機械学習モデルをDockerコンテナとしてパッケージ化します。環境はcog.yaml(Pythonのバージョン、システムパッケージ、依存関係、GPUの要否)に書き、setup()で重みを読み込みrun()で型付きの入力を受け取るPythonクラスを書きます。Cogは互換性のあるCUDA、cuDNN、フレームワークのベースイメージを選んでコンテナをビルドし、型からOpenAPIスキーマを生成して、RustのHTTPサーバーであるcogletでポート5000から提供します。
開発元はReplicateで、Replicateのホスティング基盤が実行する形式でもあります。cog pushでイメージをReplicateのレジストリか任意のOCIレジストリに送れます。同じイメージはDockerが動く場所ならどこでも動くため、Replicateに縛られません。Replicate自体はCloudflareに買収され、取引は2025年12月1日に完了しました。
プロジェクトは主にGoで書かれ、ライセンスはApache 2.0、スターは約9,500です。リリースは頻繁で、2026年5月のv0.20.0でcog predictがcog runに、predict()がrun()に改名され、8月のv0.22.0でローカルサーバーが127.0.0.1だけで待ち受けるようになりました。最新リリースは2026年10月20日のv0.23.1です。
Cogは使う価値があるか?
Cogは、研究者がモデルを世に出す作業で最も嫌う部分を取り除きます。イメージがようやくGPUで動くまで、DockerfileでCUDA、cuDNN、PyTorch、Pythonのバージョンを合わせ続ける作業です。cog.yamlにPythonのバージョンとパッケージを書き、setup()とrun()を持つクラスを書けば、cog buildが、型注釈から生成したOpenAPIスキーマで入力を検証しつつPOST /predictionsに応答するイメージを作ります。
これはパッケージングのツールであり、高速な推論エンジンではありません。vLLMやSGLangは多数のユーザーのリクエストをまとめ、言語モデルを動かすGPUのスループットを引き出します。Cogは書いたコードをそのまま包み、@cog.concurrentで上限を上げない限り予測を1件ずつ実行します。多数の同時ユーザーを抱えるチャットモデルより、画像・音声・動 画のモデルや独自のパイプラインに向いています。枠がすべて埋まると、サーバーは409 Conflictを返します。最近のリリースでは、2026年6月にServer-Sent Eventsによるストリーミング、8月にブラウザのplayground、9月にオプトイン方式のOpenTelemetryトレースが加わりました。
注意点:HTTPのドキュメントには、予測APIの認証についての記述がありません。バージョン0.22.0でcog serveはすべてのネットワークインターフェースではなく127.0.0.1で待ち受けるようになり、これは妥当な修正です。しかしビルドしたイメージは、到達できる相手なら誰にでもポート5000で応答します。共有する環境では、前段に認証付きのプロキシが必要です。インターフェースも変わり続けています。v0.20.0でpredictがrunに改名され(旧名はエイリアスとして使えます)、cog weightsのコマンドは実験的だと警告を出し、v0.23.1でようやく直ったバグでは、出力のアップロードに失敗した予測が成功と記録されることがありました。
長期的な論点は所有者です。CogはReplicateのために存在し、そのReplicateは今やCloudflareの傘下で、Cloudflareのインフラへの移行が進んでいます。ライセンスはApache 2.0なので方針転換があってもツールは残りますが、ロードマップはReplicateの都合に従います。
結論:Cogとモデルの関係は、輸送用コンテナと貨物の関係に似ています。中身を速くはしませんが、受け取る側は中身を知らなくても運べます。
真価を発揮する場面
動くリポジトリはあ るがDevOpsの支援がないコンピュータビジョンの研究者
他の人がAPIから呼べるようにモデルを公開する
既存の推論コードを包むcog.yamlとrun.pyを書き、cog run -i image=@input.jpgで試してから、Replicateへcog pushします。Cogは無料で、Replicateはモデルが動いている間のハードウェア秒単位で課金します。
自社のKubernetesクラスターでモデルを運用するメディア企業のプラットフォームチーム
すべてのモデルに同じコンテナの形と同じHTTPの約束事を持たせる
各モデルチームにCogイメージでの納品を求め、cog push --jsonでダイジェスト固定の参照を得ながら社内OCIレジストリに送り、ポート5000の前段に認証付きゲートウェイを置きます。ライセンス費用はなく、モデルごとにDockerfileを保守する手間が省けます。
音声クリーンアップAPIを売る2人のスタートアップ
進捗と途中結果を顧客のアプリにストリーミングする
run()に@cog.streamingを付け、クライアントにtext/event-streamを要求させてstart、output、log、completedのイベントを受け取ります。再接続したクライアントは進行中のイベントを再生できます。ホストはReplicateか、レンタルしたGPUです。
導入前に確認すること
- 導入
- Docker(Docker Engineの場合はBuildxも)を入れ、macOSではbrew install replicate/tap/cog、Linuxではインストールスクリプトを使います。Windows 11ではWSL 2が必要です。最初のイメージはcog.yaml、run.py、cog buildで作れます。cog doctorは、選ばれたPyTorchとCUDAのwheelにGPU用のカーネルがない場合に警告します。
- 連携
- Dockerと任意のOCIレジストリ、Replicateのレジストリとホスティング、クライアント向けのOpenAPIスキーマ、Server-Sent Eventsによるストリーミング、Webhook、OpenTelemetryトレースのOTLPエクスポート、ローカルのplayground Web UI。
- データとプライバシー
- Cog自体はどこにも何も送らず、データはイメージを動かす場所にとどまります。HTTP APIのドキュメントには認証の記述がなく、v0.22.0以降のローカルサーバーは既定で127.0.0.1で待ち受けます。トレースは既定で無効です。Apache 2.0です。
- 大規模利用時のコスト
- Cogは無料で、費用はGPUです。Replicateではハードウェア秒単位の課金、自前ホスティングでは自分のインスタンス代になります。既定の同時実行数が1件なので、リクエストが多いとレプリカを増やす必要があります。
- 制限
- @cog.concurrent(max=N)を設定しない限り予測は1件ずつです。JSONレスポンスではステータスのポーリングができません。学習用エンドポイントはSSEに対応していません。cog weightsは実験的です。未解決のissueとプルリクエストは約100件です。
良い点
- 互換性のあるCUDA、cuDNN、フレームワークのバージョンを自動で選ぶ
- Pythonの型注釈からOpenAPIスキーマと入力検証を生成
- 同じイメージがReplicate、自前のDockerホスト、任意のOCIレジストリで動く
- 活発なリリース:2026年にストリーミング、playground、OpenTelemetryトレースを追加
気になる点
- 予測APIの認証が文書化されていない
- 既定では予測を1件ずつ実行し、バッチ処理するLLMサーバーではない
- インターフェースが変わる:v0.20.0でpredictがrunに、weights系コマンドは実験的
- Windowsにはネイティブ対応せず、WSL 2が必要
おすすめの人
GPUコンテナでモデルを確実に動かす必要があるMLエンジニアや研究者、特にReplicateで公開する人。
Cogの代替
Cog:よくある質問
- Cogは使う価値があるか?
- Cogは研究用リポジトリから型付きHTTP API付きコンテナへの最短経路で、Replicateでホストするなら当然の選択です。ただしAPIには独自の認証が文書化されておらず、インターフェースもまだ変わり続けています。 評価は5点満点中4.1点です。
- Cogの料金は?
- Apache 2.0の無料オープンソースです。Replicate上でイメージを動かす場合は、Replicateのハードウェア秒単位または出力単位の料金が別途かかります。
- Cogの欠点は?
- 予測APIの認証が文書化されていない; 既定では予測を1件ずつ実行し、バッチ処理するLLMサーバーではない; インターフェースが変わる:v0.20.0でpredictがrunに、weights系コマンドは実験的; Windowsにはネイティブ対応せず、WSL 2が必要.
- Cogは誰に向いているか?
- GPUコンテナでモデルを確実に動かす必要があるMLエンジニアや研究者、特にReplicateで公開する人。
- チームや本番環境でCogを使うと費用はいくらか?
- Cogは無料で、費用はGPUです。Replicateではハードウェア秒単位の課金、自前ホスティングでは自分のインスタンス代になります。既定の同時実行数が1件なので、リクエストが多いとレプリカを増やす必要があります。
- Cogは企業データを扱っても安全か?
- Cog自体はどこにも何も送らず、データはイメージを動かす場所にとどまります。HTTP APIのドキュメントには認証の記述がなく、v0.22.0以降のローカルサーバーは既定で127.0.0.1で待ち受けます。トレースは既定で無効です。Apache 2.0です。
- Cogの代わりになるものは?
- 当サイトでレビューした中で最も近い代替はvLLM 、 SGLangです。
回答確認日:2026年11月14日