ディープフェイクとは？生成メディア、人物の改変、誤った文脈を見分ける

「偽物」より具体的な説明から始める

NISTは、AIを含むアルゴリズムによって生成されたり、大幅に変更されたりした素材を、合成コンテンツという広い概念で扱っています。透明性に関する報告書では、来歴の追跡、透かし、検出を異なる手法として説明しています。このガイドの分類は、次の確認方法を選ぶための実用的な整理です。法的な定義ではなく、編集された画像がすべてディープフェイクだとするものでもありません。

人物のすり替えを疑う場合は、実在する人の顔や声が別の演技に挿入されていないかを確認します。人物や場面そのものが生成された可能性がある場合は、主張されている出来事の記録ではなく、モデルの出力ではないかを調べます。通常の編集なら、切り抜き、修整、合成の内容を特定します。文脈の誤りなら、説明文の場所・日付・出来事を記録の出典と照合します。一つの投稿が複数の分類に当てはまることもあります。

出典: National Institute of Standards and Technology: 合成コンテンツがもたらすリスクの低減（NIST AI 100-4）

四つの架空の例で確認方法を選ぶ

架空の市長が登場する動画を想像してください。版Aでは俳優が演じ、AIで顔を置き換えています。この場合は制作記録と、発言者とされる人の元の声明を確認します。版Bでは架空の人物が、創作だと明示された台本を読み上げています。制作者によるその説明を動画と一緒に保存します。どちらも、実際の公職者が発言した証拠にはなりません。

版Cでは、本物の記録が、話者が「その主張は誤りです」と言う直前で切られています。発言全体を探してください。版Dでは、昨年の本物の映像に、今日の出来事だという説明が付いています。特徴のあるフレームを検索し、以前の公開ページと比較します。Googleの画像の背景情報を調べる機能では、過去の使用例や類似画像が見つかることがあり、最後の問いを確かめる手がかりになります。

出典: Google Search Help: 画像について詳しく調べる

小さな検証記録を作る

以下の独自の確認票を、一つの主張と一つの特定ファイルに対して使います。弱い手がかりをいくつも組み合わせて強そうな判定にするのではなく、観察事項ごとに出典を付けてください。NISTは、単独の透明性確保の手法であらゆる文脈を解決できるわけではないとしています。この確認票は、各確認を、それで答えられる問いに結び付けます。

1. 主張を書き出します。誰が、何を、どこで、いつしたとされているのでしょうか。
2. 入手できる場合は出典URLと元ファイルを保存し、再投稿やスクリーンショットを原本と区別します。
3. 疑っている変更点を明記します。人物、生成された場面、音声、通常の編集、説明文や文脈のどれでしょうか。
4. 変更点に合った証拠を選びます。制作に関する説明、以前の記録、一致するフレーム、画像に保存された記録、対応形式の署名付き来歴情報などです。
5. 確認できたこと、矛盾すること、未検証のことを記録します。実行できない確認を、陰性の検査結果に置き換えないでください。

出典: National Institute of Standards and Technology: 合成コンテンツがもたらすリスクの低減（NIST AI 100-4）

出自と内容の真偽を分ける

C2PAの解説は、ファイルの来歴と、描写が事実に合っているかどうかを区別しています。記録された編集操作は制作過程の説明に役立ちますが、説明文に含まれるすべての主張を解決するわけではありません。同様に、来歴情報がないことだけで、ファイルが生成されたとは判断できません。

本物の写真に映画の撮影現場が写っているのに、再投稿では実際の緊急事態だと説明されているとします。写真がAI生成だと主張しなくても、文脈の食い違いを結論として示せます。逆に、制作者が創作だと明示した架空のAI場面を、説明を伏せた実際の出来事として扱う必要はありません。実際に得られた証拠の範囲を保つ言葉を選んでください。

出典: Coalition for Content Provenance and Authenticity: C2PAとContent Credentialsの解説、バージョン2.2

このテーマの質問