isGenAI.com

Glossário

Glossário de proveniência de imagens de IA

Trinta termos que aparecem quando você verifica se uma imagem foi gerada por IA, cada um com uma definição de uma frase, o detalhe que importa e exatamente como o isGenAI o usa em um relatório.

Arquivo PNG de exemplo controlado que contém este registro: Content Credentials encontradas

test-signed.pngArquivo PNG · exemplo controlado

  1. Signature + IHDR
  2. iTXt XML:com.adobe.xmp
  3. tEXt parameters
  4. tEXt prompt / workflow
  5. tEXt invokeai_metadata
  6. eXIf
  7. caBX C2PA manifestregistro
  8. IDAT pixels
  9. IEND

Content Credentials encontradas

Um manifesto assinado descreve como o arquivo foi feito.

Assinante, ferramenta de registro, ações e o resultado da verificação da assinatura aparecem separados, para você pesar cada um.

Abrir o verificador de Content Credentials →
Content Credentials encontradas: onde este registro fica dentro de um arquivo PNG e o que o relatório do isGenAI diz sobre ele. A imagem é um exemplo controlado desenhado por código que contém este registro: baixe e confira você mesmo.

Termos

C2PA

C2PA é o padrão aberto por trás das Content Credentials: manifestos assinados que registram como um arquivo foi criado e por quem.

Content Credentials

Content Credentials é o nome voltado ao público dos manifestos C2PA: registros assinados de como uma imagem ou um vídeo foi criado.

Proveniência

Proveniência é o histórico registrado de onde um arquivo veio e do que o alterou. Conheça os tipos de evidência e como o isGenAI lê cada um.

SynthID

SynthID é a marca d’água invisível do Google DeepMind para imagens, áudio, vídeo e texto gerados por IA. Veja o que ela é e onde verificá-la.

IPTC Digital Source Type

IPTC DigitalSourceType é o campo de metadados que declara como uma imagem foi criada, incluindo trainedAlgorithmicMedia para conteúdo de IA.

EXIF

EXIF é o padrão de metadados de câmera em JPEG, TIFF, WebP e PNG. Saiba o que ele registra, o que ferramentas de IA gravam nele e como o isGenAI o lê.

XMP

XMP é o pacote de metadados em XML dentro de arquivos JPEG, PNG, WebP, TIFF e PDF. Veja o que ele carrega, incluindo o source type de IA do IPTC.

JUMBF

JUMBF (ISO/IEC 19566-5) é o formato de caixas que a C2PA usa para guardar manifestos dentro de JPEG, PNG, WebP, HEIF, TIFF, MP4 e PDF.

Marca d’água de IA

Uma marca d’água de IA é uma marca visível ou um sinal invisível adicionado à mídia gerada para indicar sua origem. Veja os tipos e seus limites.

Deepfake

Deepfake é mídia criada ou manipulada por IA que parece autêntica sem ser. Veja a definição da Lei de IA da UE, o dever do Artigo 50(4) e o que checar.

Imagem gerada por IA

Uma imagem gerada por IA é uma imagem produzida por um modelo generativo. Veja como os geradores registram isso e como o isGenAI lê a evidência.

Detector de imagens de IA

Um detector de imagens de IA indica se uma imagem foi gerada por IA. Conheça as duas abordagens: classificadores de pixels e leitores de evidências.

Metadados de prompt

Metadados de prompt são o prompt e as configurações de geração que algumas ferramentas de IA salvam dentro do próprio arquivo de imagem.

Chunk de texto PNG

Os chunks de texto PNG (tEXt, zTXt, iTXt) são registros de palavra-chave e valor dentro de um PNG onde ferramentas de IA salvam prompts e XMP.

Workflow do ComfyUI

Um workflow do ComfyUI é o grafo de nós salvo nos PNGs gerados como registros prompt e workflow. Conheça os dois JSON e como o isGenAI os lê.

Parâmetros do A1111

O registro parameters do AUTOMATIC1111 guarda prompt, prompt negativo, passos, sampler, seed e modelo em um chunk de texto PNG ou no EXIF.

Artigo 50 da Lei de IA da UE

O Artigo 50 da Lei de IA da UE define deveres de transparência: aviso de chatbot, marcação legível por máquina de conteúdo de IA e rótulo de deepfake.

Obrigação de transparência

Uma obrigação de transparência na Lei de IA da UE é o dever de informar sobre o uso de IA: aviso de interação, marcação de conteúdo e rótulo de deepfake.

Marcação legível por máquina

Marcação legível por máquina é o dever do Artigo 50(2) de marcar conteúdo de IA para que software o detecte: C2PA, metadados IPTC, marcas d’água.

Manifesto

Um manifesto C2PA é a unidade assinada dentro das Content Credentials: asserções, uma claim e uma assinatura. Veja como o isGenAI o valida.

Recibo assinado

Um recibo assinado é o registro com assinatura Ed25519 que o isGenAI emite para uma verificação, vinculando o hash do arquivo, os achados e a hora.

Hash

Um hash é uma impressão digital de tamanho fixo dos bytes de um arquivo; o SHA-256 é o padrão que o isGenAI usa para identificar arquivos.

Hash perceptual

Um hash perceptual é uma impressão digital da aparência de uma imagem, estável após redimensionamento e compressão. Veja como o isGenAI o usa.

Tag de gerador

Uma tag de gerador é um campo de metadados que nomeia o software que criou uma imagem, como XMP CreatorTool ou EXIF Software. Veja quanto ela vale.

Remoção de metadados

Remoção de metadados é a eliminação de EXIF, XMP, chunks PNG e C2PA de um arquivo, por plataformas, conversores ou ferramentas de privacidade.

Lavagem por captura de tela

Lavagem por captura de tela é recapturar uma imagem de IA para apagar sua proveniência. Saiba por que ela engana checagens de metadados e o que fazer.

Soft binding

Soft binding é um mecanismo C2PA, como marca d’água invisível ou impressão digital, que reconecta o conteúdo ao manifesto após a remoção dos metadados.

Hard binding

Hard binding é o hash do conteúdo do arquivo dentro de uma claim C2PA assinada; qualquer alteração o quebra. Veja como o isGenAI relata o resultado.

Lista de confiança

Uma lista de confiança é o conjunto de autoridades certificadoras que um validador C2PA aceita; por isso, uma assinatura válida pode não ser confiável.

Certificado

Um certificado de assinatura é a credencial X.509 que identifica quem assinou um manifesto C2PA. Saiba sobre cadeias, listas de confiança e o isGenAI.

Como usar este termo ao verificar um arquivo

  1. Envie o arquivo original ao detector de imagens de IA ou à ferramenta indicada na página.
  2. Encontre o achado que usa este termo em “How we checked” (como verificamos) e leia o campo de origem que ele indica.
  3. Pese cada achado pelo tipo: um registro assinado, um campo declarado, um prompt salvo e uma cópia correspondente são evidências de força diferente.
  4. Lembre-se de que a ausência de um registro não é evidência de autoria humana.