本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

ディープフェイク

ディープフェイク(deepfake)とは、AI で作成または改変され、実在の人物、場所、出来事を、実際には起きていない形で本物らしく見せ、本物として通用しうる画像、音声、動画のコンテンツです。

別名: synthetic media, deep fake

執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法

この言葉は顔を入れ替えた動画から始まりましたが、今では本物らしい偽物全般を指します。電話でのクローン音声、政治家が言ってもいない言葉を話す動画、実際の出来事を写したとする架空の写真などです。EU AI Act はディープフェイクを、実在の人物、物、場所、出来事に似ており、本物であるかのように誤って見える、AI が生成または操作したコンテンツと定義しています。

どう作られるか

ほとんどのディープフェイクは、正当な仕事にも使われる生成ツールを組み合わせています。音声にはボイスクローン、新しい音声に口の動きを合わせるにはリップシンクモデル、映像にはテキストからの動画生成や顔の入れ替えのモデルです。同じツールが吹き替え、アクセシビリティ、映画の特殊効果を支えているので、害は技術そのものではなく、人をだますことにあります。

ディープフェイクと合成メディアの違い

合成メディアは、AI が生成した画像、音声、動画全般を指す広い言葉で、AI 製であることを明示したアートやストック画像も含みます。ディープフェイクはその一部で、本物として通用するように作られ、通常は実在の人物や出来事と結びついています。

対応策

2 つの方法が並行して使われます。表示は、AI 透かしやメタデータによって、コンテンツが AI 製であることを発生源で示すものです。C2PA コンテンツクレデンシャルなどの来歴は、ファイルが偽物だと証明しようとするのではなく、誠実な発信者がファイルの出どころと編集の経緯を示せるようにするものです。EU AI Act は、一部の例外を除き、ディープフェイクが人工的なものであることの開示を義務づけています。表示も検出ツールも単独では決め手にならないので、驚くような映像は共有する前に出どころを確認してください。

関連用語

C2PA コンテンツクレデンシャル
C2PA コンテンツクレデンシャル(C2PA content credentials)とは、Coalition for Content Provenance and Authenticity のオープン標準で定められた、署名付きの来歴の記録です。画像、動画、音声ファイル、文書と一緒に移動し、その出どころと編集の経緯を記録します。
AI 透かし
AI 透かし(AI watermarking)とは、AI モデルがテキスト、画像、音声、動画を生成する時点で、機械で検出できる隠れた信号を埋め込むことです。後でソフトウェアがそのコンテンツを AI 生成物だと識別できるようにします。
ボイスクローニング
ボイスクローニング(voice cloning)とは、AIを使い、特定の人の録音から学んだその人の声で音声合成システムに話させることです。短いサンプルだけで済むシステムもあります。
EU AI Act
EU AI Act(規則(EU)2024/1689)は、人工知能に関する欧州連合の法律です。AI システムを開発、導入する者に対して、全面的な禁止から透明性の義務まで、リスクに基づくルールを定めており、2025 年から段階的に適用されます。
リップシンク(AI 動画)
AI リップシンク(AI lip sync)とは、動画や画像の中の人物の口の動きを、翻訳したセリフや書き直したセリフなどの新しい音声トラックに合うようにモデルで変えることです。
Text-to-video(動画生成)
Text-to-video(動画生成)とは、書かれたプロンプトから短い動画クリップを生成するタスクです。モデルは、それぞれが正しく見え、しかもフレーム間で一貫して動くフレームを生成しなければなりません。

出典