검증 실용 가이드
딥페이크란? 생성된 미디어, 바뀐 인물, 잘못된 맥락 구분하기
딥페이크는 AI로 생성하거나 변경한 미디어로 인물, 연기 또는 사건을 실제처럼 표현합니다. 다음으로 확인할 것은 무엇이 바뀌었는지입니다. 등장인물인지, 장면인지, 음성인지, 아니면 원래는 진짜인 기록에 붙은 이야기만 달라졌는지 구분하세요.
‘가짜’보다 정확한 설명부터 시작하기
NIST는 AI를 포함한 알고리즘으로 생성하거나 상당 부분 변경한 자료를 합성 콘텐츠라는 넓은 범주로 다룹니다. 투명성 보고서는 출처 이력 추적, 워터마크, 탐지를 서로 다른 접근법으로 설명합니다. 이 가이드는 다음 확인 방법을 고르기 위한 실용적인 분류를 사용합니다. 법적 정의도, 편집된 모든 이미지가 딥페이크라는 주장도 아닙니다.
인물의 정체성이 바뀌었다고 의심한다면 실존 인물의 얼굴이나 목소리가 다른 연기에 삽입되었는지 살펴보세요. 인물이나 장면 자체가 생성된 경우에는 주장된 사건을 촬영한 기록이 아니라 모델의 결과물인지 확인합니다. 일반 편집이라면 자르기, 보정 또는 합성 내용을 특정하세요. 맥락이 잘못되었다면 설명에 적힌 장소, 날짜, 사건을 기록의 출처와 비교합니다. 한 게시물이 여러 범주에 해당할 수도 있습니다.
출처: National Institute of Standards and Technology: 합성 콘텐츠로 인한 위험 줄이기(NIST AI 100-4)
네 가지 가상 예시로 확인 방법 선택하기
가상의 시장이 영상에 등장한다고 생각해 보세요. 버전 A에서는 배우가 연기하고 AI가 얼굴을 바꿉니다. 이 경우 제작 기록과 발언자로 지목된 사람의 원래 발언을 살펴보세요. 버전 B에서는 허구의 인물이 창작물이라고 명시된 대본을 읽습니다. 제작자의 해당 설명을 영상과 함께 보관하세요. 어느 버전도 실제 공직자가 그 말을 했다는 증거가 되지는 않습니다.
버전 C에서는 실제 녹화가 화자의 ‘그 주장은 틀렸습니다’라는 말 직전에 끊깁니다. 전체 문장을 찾으세요. 버전 D에서는 작년의 실제 영상이 오늘의 사건이라고 소개됩니다. 식별할 수 있는 프레임을 검색하고 이전 게시물과 비교하세요. Google의 이미지 맥락 기능에서 이전 사용 사례나 유사 이미지를 찾을 수 있으며, 이는 마지막 질문을 확인하는 단서가 됩니다.
간단한 증거 기록 만들기
아래의 자체 작성 양식을 하나의 주장과 하나의 특정 파일에 사용하세요. 여러 약한 단서를 합쳐 더 강해 보이는 판정을 내리는 대신, 관찰 내용마다 출처를 붙입니다. NIST는 하나의 투명성 기법으로 모든 맥락을 해결할 수 없다고 강조합니다. 이 양식은 각각의 확인을 실제로 답할 수 있는 질문에 연결합니다.
- 주장을 적으세요. 누가 무엇을 어디서 언제 했다고 하나요?
- 가능하면 출처 URL과 원본 파일을 보관하고, 재게시물이나 스크린샷을 원본과 구분하세요.
- 의심되는 변경 사항을 명시하세요. 인물, 생성된 장면, 음성, 일반 편집 또는 설명과 맥락 중 무엇인가요?
- 변경 사항에 맞는 증거를 선택하세요. 제작 설명, 이전 기록, 일치하는 프레임, 이미지에 저장된 기록 또는 지원되는 서명된 출처 증명 등이 있습니다.
- 확인된 내용, 반박된 내용, 아직 검사하지 않은 내용을 기록하세요. 수행할 수 없는 검사를 검출되지 않았다는 결과로 바꾸지 마세요.
출처: National Institute of Standards and Technology: 합성 콘텐츠로 인한 위험 줄이기(NIST AI 100-4)
출처와 사실 여부를 구분하기
C2PA 설명서는 파일의 출처 이력과 그 파일이 묘사하는 내용의 사실 여부를 구분합니다. 기록된 편집 작업은 제작 과정을 설명하는 데 도움이 되지만 설명 문구의 모든 주장을 해결하지는 않습니다. 마찬가지로 출처 증명이 없다는 사실만으로 파일이 생성된 것이라고 판단할 수 없습니다.
진짜 사진이 영화 촬영장을 보여 주는데, 재게시물은 이를 실제 비상 상황이라고 설명한다고 가정해 보세요. 사진이 AI 생성이라고 주장하지 않고도 맥락이 맞지 않는다는 결론을 낼 수 있습니다. 반대로 제작자가 허구임을 밝힌 AI 장면을 그런 설명 없이 제시된 실제 사건처럼 다룰 필요는 없습니다. 실제로 확보한 증거의 범위를 유지하는 표현을 사용하세요.
출처: Coalition for Content Provenance and Authenticity: C2PA 및 Content Credentials 설명서, 버전 2.2
이 주제에 관한 질문
AI로 생성된 모든 이미지가 딥페이크인가요?
가능하면 생성 일러스트, 합성 인물, 변형된 얼굴, 조작된 연기처럼 더 구체적으로 설명하세요. ‘딥페이크’라는 포괄적인 표현만으로는 무엇이 바뀌었고 작품이 어떻게 제시되었는지 알 수 없습니다.
편집하지 않은 동영상도 오해를 부를 수 있나요?
네. 잘못된 날짜, 장소, 인물 정보나 생략된 맥락은 실제 영상에 붙은 주장을 바꿀 수 있습니다. 파일뿐 아니라 출처와 전체 장면의 흐름도 확인하세요.
프레임 하나를 확인하면 동영상 전체가 인증되나요?
아니요. 프레임 확인은 해당 정지 이미지만을 대상으로 합니다. 다른 프레임, 음성, 화자의 신원 또는 설명에 적힌 사건까지 인증하지는 않습니다.
출처와 날짜
- 합성 콘텐츠로 인한 위험 줄이기(NIST AI 100-4) — National Institute of Standards and Technology, 2024년 11월 20일.
- 이미지에 관해 자세히 알아보기 — Google Search Help.
- C2PA 및 Content Credentials 설명서, 버전 2.2 — Coalition for Content Provenance and Authenticity.
출처 확인일 2026년 9월 27일. 연결된 보도와 공식 발표가 해당 사실을 뒷받침하며, 검증 절차는 isGenAI의 분석입니다.
다음 질문을 파일에서 확인하세요.
확인하려는 질문과 지원 범위에 맞는 도구를 선택하세요. 원래 출처를 보관하고 결과를 메모와 함께 저장합니다. 프레임 추출, 파일 기록 확인, 정지 이미지 검사는 서로 다른 질문에 답합니다. 어느 작업도 단독으로 영상 전체나 음성을 인증하지는 않습니다.
isGenAI의 검사 방법 (영어) 은 지원되는 검사와 결과의 한계를 설명합니다. 사실 오류나 더 최근의 1차 자료를 찾았다면 정정 절차 (영어) 를 통해 이 글의 URL과 함께 알려 주세요.