isGenAI.com

用語集

AI画像の来歴(プロベナンス)用語集

画像がAI生成かどうかを確かめるときに出会う30の用語を、1文の定義、押さえておきたい要点、そしてisGenAIがレポートの中でその用語をどう使っているかとあわせて解説します。

この記録を含む管理サンプルの PNG ファイル:Content Credentials を検出

test-signed.pngPNG ファイル · 管理されたサンプル

  1. Signature + IHDR
  2. iTXt XML:com.adobe.xmp
  3. tEXt parameters
  4. tEXt prompt / workflow
  5. tEXt invokeai_metadata
  6. eXIf
  7. caBX C2PA manifest記録
  8. IDAT pixels
  9. IEND

Content Credentials を検出

署名付きマニフェストがファイルの作られ方を記録しています。

署名者、記録したツール、操作、署名検証の結果を分けて表示するので、一つずつ判断できます。

Content Credentials チェッカーを開く →
Content Credentials を検出:この記録が PNG ファイルのどこにあり、isGenAI レポートがそれをどう示すか。 この画像はコードで描いた管理サンプルで、実際にこの記録を含んでいます。ダウンロードしてご自身で確認できます。

用語

C2PA

C2PAはContent Credentials(コンテンツクレデンシャル)のためのオープン標準です。ファイルの作られ方を記録する署名付きマニフェストを定めています。

Content Credentials

Content Credentialsは、C2PAマニフェストの一般向けの呼び名です。画像や動画がどのように作られたかを記録した、署名付きの記録を指します。

来歴(プロベナンス)

来歴(プロベナンス)とは、ファイルがどこから来て、何によって変更されたかの記録です。証拠の種類と、isGenAIがそれぞれをどう読むかを解説します。

SynthID

SynthIDは、Google DeepMindが開発した、AIで生成された画像・音声・動画・テキスト向けの目に見えない電子透かしです。

IPTC Digital Source Type

IPTC DigitalSourceTypeは、画像の作られ方を宣言するメタデータ項目です。AIを示すtrainedAlgorithmicMediaなどの値を解説します。

EXIF

EXIFはJPEG、TIFF、WebP、PNGに含まれるカメラのメタデータ規格です。記録される内容、AIツールが書き込む情報、isGenAIでの読み方を解説します。

XMP

XMPは、JPEG、PNG、WebP、TIFF、PDFファイル内にあるXMLのメタデータパケットです。IPTCのAIソースタイプなど、その中身を解説します。

JUMBF

JUMBF(ISO/IEC 19566-5)は、C2PAがJPEG、PNG、WebP、HEIF、TIFF、MP4、PDFの中にマニフェストを格納するためのボックス形式です。

AI電子透かし

AI電子透かしとは、生成されたメディアの出どころを示すために加えられる、目に見える印、または目に見えない信号のことです。

ディープフェイク

ディープフェイクとは、本物であるかのように誤って見えるAI生成・加工メディアです。EU AI法の定義、第50条第4項の義務、ファイルの確認方法を解説します。

AI生成画像

AI生成画像とは、生成モデルが作り出した画像のことです。生成AIがその事実をどう記録し、isGenAIがその証拠をどう読むかを解説します。

AI画像判定ツール

AI画像判定ツールは、画像がAIで生成されたかどうかを判断するツールです。ピクセル分類器と証拠を読むツール、2つの方式を解説します。

プロンプトメタデータ

プロンプトメタデータとは、一部のAIツールが画像ファイル内に保存する、生成時のプロンプトと設定のことです。

PNGテキストチャンク

PNGテキストチャンク(tEXt、zTXt、iTXt)は、PNG内のキーワードと値の記録で、AIツールがプロンプトやXMPを保存する場所です。

ComfyUIワークフロー

ComfyUIワークフローは、生成したPNG内にpromptとworkflowの記録として保存されるノードグラフです。2つのJSONとisGenAIでの読み方を解説します。

A1111 parameters

AUTOMATIC1111のparametersは、プロンプト、ネガティブプロンプト、ステップ数、サンプラー、シード、モデルをPNGテキストチャンクやEXIFに保存する記録です。

EU AI法 第50条

EU AI法第50条は透明性義務を定めています。チャットボットであることの開示、AI出力の機械可読なマーキング、ディープフェイクの表示です。

透明性義務

EU AI法の透明性義務とは、AIの利用を人々に知らせる義務です。やり取りの通知、出力のマーキング、ディープフェイクの表示を解説します。

機械可読なマーキング

機械可読なマーキングとは、AI出力をソフトウェアで検出できるようにする第50条第2項の義務です。C2PA、IPTCメタデータ、電子透かしを解説します。

マニフェスト

C2PAマニフェストは、Content Credentialsの中にある署名付きの単位で、アサーション、クレーム、署名で構成されます。

署名付きレシート

署名付きレシートとは、isGenAIがチェックごとに発行する、Ed25519で署名された記録です。ファイルのハッシュ、検出結果、時刻を結び付けます。

ハッシュ

ハッシュとは、ファイルのバイト列から作られる固定長のフィンガープリントです。isGenAIが使う標準はSHA-256です。

知覚ハッシュ

知覚ハッシュとは、画像の見た目から作られるフィンガープリントで、リサイズや圧縮をしても安定しています。

生成ツールタグ

生成ツールタグとは、XMPのCreatorToolやEXIFのSoftwareなど、画像を作ったソフトウェアの名前を示すメタデータ項目です。

メタデータの削除

メタデータの削除とは、プラットフォーム、変換ツール、プライバシーツールによって、EXIF、XMP、PNGチャンク、C2PAがファイルから取り除かれることです。

スクリーンショットロンダリング

スクリーンショットロンダリングとは、AI画像を撮り直して来歴を消すことです。メタデータのチェックが通用しない理由、残るもの、対処法を解説します。

ソフトバインディング

ソフトバインディングとは、メタデータが削除された後でもコンテンツをマニフェストに結び付け直す、透かしやフィンガープリントなどのC2PAの仕組みです。

ハードバインディング

ハードバインディングとは、署名付きのC2PAクレーム内にあるファイル内容のハッシュです。どんな変更でも壊れます。

トラストリスト

トラストリストとは、C2PAのバリデーターが受け入れる認証局の一覧です。そのため、有効な署名でも信頼されないことがあります。

署名証明書

署名証明書とは、C2PAマニフェストに誰が署名したかを示すX.509の証明書です。証明書チェーン、トラストリスト、isGenAIのチェックを解説します。

ファイルを調べるときのこの用語の使い方

  1. 元のファイルを、AI画像判定ツールまたはページで紹介しているツールにアップロードします。
  2. 「How we checked」(確認方法)の中からこの用語を使った検出結果を探し、そこに示された参照元の項目を読みます。
  3. 種類ごとに重みづけします。署名付きの記録、宣言された項目、保存されたプロンプト、一致するコピーは、証拠としての強さがそれぞれ異なります。
  4. 記録がないことは、人が作成したことの証拠にはならない点に注意してください。