용어집
AI 이미지 출처 용어집
이미지가 AI로 생성되었는지 확인할 때 만나는 용어 30개를 정리했습니다. 용어마다 한 문장 정의, 꼭 알아야 할 세부 사항, 그리고 isGenAI가 보고서에서 그 용어를 정확히 어떻게 사용하는지 설명합니다.
test-signed.pngPNG 파일 · 통제된 예시
- Signature + IHDR
- iTXt XML:com.adobe.xmp
- tEXt parameters
- tEXt prompt / workflow
- tEXt invokeai_metadata
- eXIf
- caBX C2PA manifest기록
- IDAT pixels
- IEND
Content Credentials 발견
서명된 매니페스트가 파일의 제작 과정을 설명합니다.
서명자, 기록 도구, 작업 내역, 서명 검증 결과를 따로 보여 주어 하나씩 판단할 수 있습니다.
Content Credentials 검사기 열기 →용어
C2PA
C2PA는 Content Credentials의 바탕이 되는 개방형 표준으로, 파일이 어떻게 만들어졌는지 기록한 서명된 매니페스트를 정의합니다.
Content Credentials
Content Credentials는 C2PA 매니페스트를 사용자에게 보여 줄 때 쓰는 이름으로, 이미지나 영상이 어떻게 만들어졌는지 담은 서명된 기록입니다.
출처 이력(Provenance)
출처 이력(provenance)은 파일이 어디서 왔고 무엇이 바꾸었는지 기록한 이력입니다. 증거의 종류와 isGenAI가 각각을 읽는 방법을 알아보세요.
SynthID
SynthID는 AI로 생성한 이미지, 오디오, 영상, 텍스트에 넣는 Google DeepMind의 보이지 않는 워터마크입니다.
IPTC Digital Source Type
IPTC DigitalSourceType은 이미지가 어떻게 만들어졌는지 선언하는 메타데이터 필드로, AI 생성에는 trainedAlgorithmicMedia 값을 씁니다.
EXIF
EXIF는 JPEG, TIFF, WebP, PNG에 쓰이는 카메라 메타데이터 표준입니다. 기록 내용, AI 도구가 넣는 정보, isGenAI가 읽는 방법을 알아보세요.
XMP
XMP는 JPEG, PNG, WebP, TIFF, PDF 파일에 들어가는 XML 메타데이터 패킷입니다. IPTC AI 소스 유형을 포함해 담긴 내용을 알아보세요.
JUMBF
JUMBF(ISO/IEC 19566-5)는 C2PA가 JPEG, PNG, WebP, HEIF, TIFF, MP4, PDF 안에 매니페스트를 저장할 때 쓰는 박스 형식입니다.
AI 워터마크
AI 워터마크는 생성된 미디어의 기원을 보여 주기 위해 넣는 눈에 보이는 표시 또는 보이지 않는 신호입니다.
딥페이크
딥페이크는 AI로 만들거나 조작해 진짜처럼 보이는 미디어입니다. EU AI법의 정의, 제50조 제4항의 의무, 파일 확인 방법을 정리했습니다.
AI 생성 이미지
AI 생성 이미지는 생성형 모델이 만든 그림입니다. 생성기가 이 사실을 어떻게 기록하는지, isGenAI가 그 증거를 어떻게 읽는지 알아보세요.
AI 이미지 판별 도구
AI 이미지 판별 도구는 그림이 AI로 생성되었는지 판단합니다. 픽셀 분류기와 증거 판독기라는 두 가지 방식을 알아보세요.
프롬프트 메타데이터
프롬프트 메타데이터는 일부 AI 도구가 이미지 파일 안에 저장하는 생성 프롬프트와 설정입니다.
PNG 텍스트 청크
PNG 텍스트 청크(tEXt, zTXt, iTXt)는 PNG 안의 키워드-값 기록으로, AI 도구가 프롬프트와 XMP를 저장하는 곳입니다.
ComfyUI 워크플로
ComfyUI 워크플로는 생성된 PNG 안에 prompt와 workflow 기록으로 저장되는 노드 그래프입니다. 두 JSON 형식과 isGenAI가 읽는 방법을 알아보세요.
A1111 parameters
AUTOMATIC1111 parameters 기록은 프롬프트, 네거티브 프롬프트, 스텝, 샘플러, 시드, 모델을 PNG 텍스트 청크나 EXIF에 저장합니다.
EU AI법 제50조
EU AI법 제50조는 챗봇 고지, AI 출력물의 기계 판독 가능 표시, 딥페이크 라벨 같은 투명성 의무를 정합니다.
투명성 의무
EU AI법의 투명성 의무는 AI 사용을 사람들에게 알릴 의무로, 상호작용 고지, 출력물 표시, 딥페이크 라벨을 포함합니다.
기계 판독 가능 표시
기계 판독 가능 표시는 소프트웨어가 탐지할 수 있도록 AI 출력물을 표시하라는 제50조 제2항의 의무로, C2PA, IPTC 메타데이터, 워터마크가 해당합니다.
매니페스트
C2PA 매니페스트는 Content Credentials 안의 서명된 단위로, 어서션, 클레임, 서명으로 이루어집니다.
서명된 영수증
서명된 영수증은 isGenAI가 검사마다 발급하는 Ed25519 서명 기록으로, 파일 해시, 결과, 시각을 하나로 묶습니다.
해시
해시는 파일 바이트로 계산한 고정 길이의 지문이며, isGenAI는 표준인 SHA-256을 사용합니다.
지각 해시
지각 해시는 이미지가 어떻게 보이는지에 대한 지문으로, 크기 조정과 압축을 거쳐도 안정적으로 유지됩니다.
생성기 태그
생성기 태그는 XMP CreatorTool이나 EXIF Software처럼 이미지를 만든 소프트웨어의 이름을 담은 메타데이터 필드입니다.
메타데이터 제거
메타데이터 제거는 플랫폼, 변환기, 개인정보 보호 도구가 파일에서 EXIF, XMP, PNG 청크, C2PA를 없애는 것입니다.
스크린샷 세탁
스크린샷 세탁은 AI 이미지를 다시 캡처해 출처 정보를 떨쳐 내는 것입니다. 메타데이터 검사를 피하는 이유, 남는 것, 대응법을 알아보세요.
소프트 바인딩
소프트 바인딩은 메타데이터가 제거된 뒤 보이지 않는 워터마크나 핑거프린트로 콘텐츠를 매니페스트와 다시 연결하는 C2PA 메커니즘입니다.
하드 바인딩
하드 바인딩은 서명된 C2PA 클레임 안에 담긴 파일 콘텐츠의 해시로, 무엇이든 바뀌면 깨집니다.
신뢰 목록
신뢰 목록은 C2PA 검증기가 인정하는 인증 기관의 집합이므로, 유효한 서명이라도 신뢰되지 않을 수 있습니다.
인증서
서명 인증서는 C2PA 매니페스트에 누가 서명했는지 식별하는 X.509 자격 증명입니다. 체인, 신뢰 목록, isGenAI의 검사를 알아보세요.
파일을 확인할 때 이 용어를 활용하는 방법
- 원본 파일을 AI 이미지 판별 도구나 페이지에 안내된 도구에 업로드합니다.
- “How we checked”(검사 방법) 항목에서 이 용어가 쓰인 결과를 찾고, 그 결과가 가리키는 출처 필드를 읽습니다.
- 증거의 종류에 따라 비중을 다르게 둡니다. 서명된 기록, 선언된 필드, 저장된 프롬프트, 일치하는 사본은 증거로서의 강도가 서로 다릅니다.
- 기록이 없다는 사실이 사람이 만들었다는 증거는 아니라는 점을 기억합니다.